10.8HW贴合精度数据的精度查询

点击联系发帖人 时间：2020-04-06 21:07

数据的精度

采纳数：1 获赞数：0 LV1

你对这个回答嘚评价是

下载百度知道APP，抢鲜体验

使用百度知道APP立即抢鲜体验。你的手机镜头里或许有别人想知道的答案

}

float浮点数7位有效数字

单精度数的尾数用23位存储，加上默认的小数

10^8所以说单精度浮点数的有效位数是7位。双精度的尾数用52位存储2^(52+1) = 0992，10^16

单精度浮点数的实际有效精度为24

下载百度知道APP抢鲜体验

使用百度知道APP，立即抢鲜体验你的手机镜头里或许有别人想知道的答案。

}

double双精度数16位有效数字

单精度数嘚尾数用23位存储，加上默认的小数

10^8所以说单精度浮点数的有效位数是7位。双精度的尾数用52位存储2^(52+1) = 0992，10^16

单精度浮点数的实际有效精度为24

精喥主要是指在内存中的存储比如：int

只会输出a=2而不会输出2.5或3。

下载百度知道APP抢鲜体验

使用百度知道APP，立即抢鲜体验你的手机镜头里或許有别人想知道的答案。

}