是一位数中最大的指数的有效数字位数

来源：蜘蛛抓取(WebSpider) 时间：2020-03-11 02:10 标签： 指数的有效数字位数

通常可以用下面的格式来表示浮点数：

其中 S 是符号位，P 是阶码M 是尾数

对于 32 位的单精度浮点型如下：

可以看出，它有 1位符号位8位指数的有效数字位数，23位尾数

0
  1. 在转换過程中由于需要往右移位, 可见对于float数整数部分越大,小数部分的精度就越低
  2. 对float数来说有效数字约为7位(223约等于107),所以整数部分占的位数越多,小数蔀分的精度就越低,当整数部分超过9999999后小数部分已经完全无精度了

我要回帖

更多关于 指数的有效数字位数 的文章

 

随机推荐