浮点型数据的有效数字是什么

如题所述

你看看 IEEE754 标准就明白了,浮点数的概念是相对于定点数的,浮点数是精度可变的一种表示法,其表示的数越大,其精度就越低,这也刚好满足科学上的需要。
单精度浮点数是 32 位的,格式如下:

域: 符号位 指数(阶码) 尾数
长度: 1 8 23
二进制:0 00000000 00000000000000000000000

可以看出,这其中真正用来表示原来数据的也就是 23 位的尾数部分,由于计算机内部的误差以及进制转换的问题,这 23位二进制 换算成 十进制 后有效数字也就 6-7 位了,其中的详细运算规则请查看该标准。
温馨提示:答案为网友推荐,仅供参考
第1个回答  2018-02-03
你看看 IEEE754 标准就明白了,浮点数的概念是相对于定点数的,浮点数是精度可变的一种表示法,其表示的数越大,其精度就越低,这也刚好满足科学上的需要。
单精度浮点数是 32 位的,格式如下:

域: 符号位 指数(阶码) 尾数
长度: 1 8 23
二进制:0 00000000 00000000000000000000000

可以看出,这其中真正用来表示原来数据的也就是 23 位的尾数部分,由于计算机内部的误差以及进制转换的问题,这 23位二进制 换算成 十进制 后有效数字也就 6-7 位了,其中的详细运算规则请查看该标准。
第2个回答  2011-06-23
从左边第一个不是0的数字起,到精确到的位数止,所有的数字都叫做这个数的有效数字(significant figure)。
比如:1.24的有效数字就是 1、2、4。
0.24 的有效数字就是 2、4。
第3个回答  2011-06-23
我的理解觉得是这样的:和数学里的有效数字差不多。
对于编程语言中的float,double 等有效数字,也就是如果两个变量的有效位以前相同,则认为这两个变量相等。超过有效位的忽略。
相似回答