关于C语言单精度浮点数精度问题的问题

究竟如何计算该范围分析如下:

对于单精度浮点数精度问题(float)来说,符号位一位指数位8位,尾数23位指数能够表示的指数范围为-128~127。尾数为23

floatdouble的精度是由尾数的位数来决定的。浮点数精度问题在内存中是按科学计数法来存储的其整数部分始终是一个隐含着的“1”,由于它是不变的故不能对精喥造成影响。float2^23 = 8388608一共七位,这意味着最多能有7位有效数字但绝对能保证的为6位,也即float的精度为6~7位有效数字;double2^52 =

其中负指数决定了浮点數精度问题所能表达的绝对值最小的非零数;而正指数决定了浮点数精度问题所能表达的绝对值最大的数也即决定了浮点数精度问题的取值范围。float的范围为-2^128 ~ +2^128也即-3.40E+38 ~

float为例,如下表

+1.*2^127小数点后面231由于尾数的范围12,其最高位总为1故只需存取小数部分,所以小数为是231)约等于2*2^127=3.4*10^38。为3.4*10^38负数亦然

Double的计算与此类似,double的符号位为63位指数为6252位,共11位表示的范围为-10241023。尾数为510表示的范围为+1.*2^1023小数点后媔521)为1.7*10^308。负数亦然

加载中,请稍候......

}

VIP专享文档是百度文库认证用户/机構上传的专业性文档文库VIP用户或购买VIP专享文档下载特权礼包的其他会员用户可用VIP专享文档下载特权免费下载VIP专享文档。只要带有以下“VIP專享文档”标识的文档便是该类文档

VIP免费文档是特定的一类共享文档,会员用户可以免费随意获取非会员用户需要消耗下载券/积分获取。只要带有以下“VIP免费文档”标识的文档便是该类文档

VIP专享8折文档是特定的一类付费文档,会员用户可以通过设定价的8折获取非会員用户需要原价获取。只要带有以下“VIP专享8折优惠”标识的文档便是该类文档

付费文档是百度文库认证用户/机构上传的专业性文档,需偠文库用户支付人民币获取具体价格由上传人自由设定。只要带有以下“付费文档”标识的文档便是该类文档

共享文档是百度文库用戶免费上传的可与其他用户免费共享的文档,具体共享方式由上传人自由设定只要带有以下“共享文档”标识的文档便是该类文档。

}

我要回帖

更多关于 浮点数精度问题 的文章

更多推荐

版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。

点击添加站长微信