单精度浮点数和有效位数为什么是7位

IEEE754标准 详细描述了单精度浮点数的格式 详查维基百科IEEE_754-1985  描述了包括如何表示( 规约化 非规约化 0 无穷 NAN)这几类以及为什么要如此表示

尾数位数越多,精度越高;指数位越多,可表示范围越大。物理中常用有效数字来描述此概念。

https://zh.wikipedia.org/wiki/%E6%9C%89%E6%95%88%E6%95%B0%E5%AD%97

https://zh.wikipedia.org/wiki/IEEE_754

单精度浮点数的有效位数为什么是7位,找到的答案如下:

浮点数的精度取决于尾数部分。尾数部分的位数越多,能够表示的有效数字越多。 

单精度数的尾数用23位存储,加上默认的小数点前的1位1,2^(23+1) = 16777216。因为 10^7 < 16777216 < 10^8,所以说单精度浮点数的有效位数是7位。

浮点数的二进制表示

 然而 还是不太明白为什么有效数位就是7位了。

“浮点数的精度取决于尾数部分。尾数部分的位数越多,能够表示的有效数字越多。”这句赞同,所以双精度的有效位数肯定比单精度的多。 

一个数如果有效位数大于7位 如1.27893456076(12位),用float来表示就不能准确的存储了。

 运行:

 float a = 1.23456789076f;// --->a = 1.2345679

即用1.23456789076在计算机中存储成float的格式只能逼近到第七位,

 

能不能准确存储还取决于这个数字(十进制数)能不能用有限的二进制位数准确的表示。 float = 2.202  float = 2.25

如果小数部分转化为二进制时候得到一个无穷值,则会根据尾数部门的长度舍弃多余的部分,从而存储一个近似的浮点值,这就解释了 为什么在比较浮点数值时候 要做一个区间比较 而不是 等值比较。【c++反汇编与逆向分析技术揭秘】

原文链接: https://www.cnblogs.com/fulina/p/4774433.html

欢迎关注

微信关注下方公众号,第一时间获取干货硬货;公众号内回复【pdf】免费获取数百本计算机经典书籍

    单精度浮点数和有效位数为什么是7位

原创文章受到原创版权保护。转载请注明出处:https://www.ccppcoding.com/archives/221892

非原创文章文中已经注明原地址,如有侵权,联系删除

关注公众号【高性能架构探索】,第一时间获取最新文章

转载文章受原作者版权保护。转载请注明原作者出处!

(0)
上一篇 2023年2月13日 上午11:28
下一篇 2023年2月13日 上午11:29

相关推荐