浮点型数据的精度是什么意思

如题所述

浮点型数据的精度即使用多少位来存储。

一个浮点数a由两个数m和e来表示:a = m × b^e。在任意一个这样的系统中,我们选择一个基数b(记数系统的基)和精度p(即使用多少位来存储)。

单精度浮点数用4字节存储,双精度浮点数用8字节存储,分为三个部分:符号位、阶和尾数。阶即指数,尾数即有效小数位数。单精度格式阶占8位,尾数占24位,符号位1位,双精度则为11为阶,53位尾数和1位符号位。

扩展资料:

浮点数的相关存储格式:

IEEE754标准中浮点数表示格式IEEE规定的浮点数表示法是一种科学计数法,用符号(正或负)、指数和尾数来表示,底数被确定为2。也就是说浮点数被表示为尾数乘以2的指数次方再带上符号。

符号域:符号域占1位,0表示正数,1表示负数。指数域:指数域共有8位,可表达的范围为:0~255。为能处理负指数,实际指数位存储在指数域中值减去一个偏移量(单精度为127,双精度为1023)。

单精度浮点数的偏移量为127,故实际可表达的指数值的范围为-127~128。尾数域:尾数域共有23位。

参考资料来源:百度百科-浮点数

参考资料来源:百度百科-单精度

参考资料来源:百度百科-浮点型数据

温馨提示:答案为网友推荐,仅供参考
第1个回答  2020-03-19

浮点型数据的精度取决于浮点小数结构:

32位单精度浮点型数的二进制位的第0-22位为2进制小数尾值,决定了它的精度在2的负23次方,1/(2^23)=0.0000001

64位双精度浮点型数的二进制位的第0-52位为2进制小数尾值,决定了它的精度在2的负52次方,1/(2^52)=2.2e-16

扩展资料:

浮点数的相关存储格式:

IEEE754标准中浮点数表示格式IEEE规定的浮点数表示法是一种科学计数法,用符号(正或负)、指数和尾数来表示,底数被确定为2。也就是说浮点数被表示为尾数乘以2的指数次方再带上符号。

符号域:符号域占1位,0表示正数,1表示负数。指数域:指数域共有8位,可表达的范围为:0~255。为能处理负指数,实际指数位存储在指数域中值减去一个偏移量(单精度为127,双精度为1023)。

参考资料来源:百度百科-浮点数 (有理数)

本回答被网友采纳
第2个回答  推荐于2017-10-07

浮点型数据的类型有两种,一是单精度浮点数,二是双精度浮点数。

浮点型数据的精度取决于浮点小数结构:

32位单精度浮点型数的二进制位的第0-22位为2进制小数尾值,决定了它的精度在2的负23次方,1/(2^23)=0.0000001

64位双精度浮点型数的二进制位的第0-52位为2进制小数尾值,决定了它的精度在2的负52次方,1/(2^52)=2.2e-16

在文本框输出时

32位浮点型数有7位小数精度(十进制)           .3333333

64位浮点型数有15位小数精度(十进制)         .333333333333333

要超过这精度要求需要将数据类型定义为Decimal(VB6.0)数据类型,它有28位小数精度(十进制)

参考:

http://www.fmddlmyy.cn/text60.html

http://wenku.baidu.com/link?url=xl7cAlbK5r3z5g9w1UdJn5r0wMHzIR3K2svZiFEeX2oDjusyptfIRiFAYFGsABaRFIw-Bip7My_u-S6-HhgCYilP9ZcuerJ-MYcuoRnR_63

第3个回答  推荐于2017-09-06
浮点型数据又称单精度浮点数,精度表示的是该浮点数的取值范围。。。
单精度类型:+-3.4*10^(-38)~~~+-3.4x10^38 单精度占用4个字节的内存
双精度类型:+-1.7*10^(-308)~~~+-1.7*10^308 双精度占用8个字节的内存本回答被提问者采纳
第4个回答  2011-12-01
就是你数值的取值范围,单精度的取值范围比双精度的要小
相似回答