00问答网
所有问题
当前搜索:
浮点数转换工具
IEEE754
浮点数
的
转换
方法( 在组态软件中通过VBA)
答:
在各个软件里浮点数据类型是不允许按位操作的。我是这样做的:到浮点4字节中,提取阶码和尾数等各个部分的数值,再创建一个同样的
浮点数
。自己封装了自定义的c函数,不知道能否用到VBA里。你自己按这个思路研究吧。
在VB6.0中把实数
转换
成4位或8位
浮点数
的方法?
答:
直接强制
转换
就是了,不要什么API.
十进制小数
转换
为
浮点数
答:
1、首先,十进制转二进制:整数部分 除二余数倒写:12: 12/2=6 余0 ;6/2=3 余0 ;3/2=1 余1 ;1/2=0 余1 倒写 也就是:1100 小数部分 乘二取整顺写:0.5: 0.5×2=1.0 取整 也就是:1 12.5的二进制:1100.1 2、然后将二进制转化为
浮点数
:由于12.5为正数...
如何将十六进制
转换
成
浮点数
答:
十六进制转换成
浮点数
先要将十六进制数的整数部分和小数部分分别转换成十进制数,再加以合并,并保留浮点数精度。十六进制
数转换
成十进制数整数的基本做法是使用"按权相加"法,把十六进制数首先写成加权系数展开式,然后按十进制加法规则求和。十六进制小数转换成十进制小数采用"乘10取整,顺序排列"法。用...
用LUA如何实现在IEEE754标准下的16进制和10进制
浮点数
的相互
转换
...
答:
function tobinary32(num)local tmp = num local str = ""repeat if tmp % 2 == 1 then str = str.."1"else str = str.."0"end tmp = math.modf(tmp/2)until(tmp == 0)str = string.reverse(str)local lens = string.len(str)local as = 32 - lens if as < 0 then else...
浮点数
转二进制数
答:
对于double型
浮点数
,尾数部分52位,换算成十进制就是2^52 = 4503599627370496,所以十进制精度只有15 ~ 16位 所以,浮点数交给计算机存储的时候,可能会有 精度丢失 问题!!!因此使用时需要格外小心,如果真因为这一块出了bug,定位问题还是非常艰难的,所以预防工作要做好。进制
转换
计算案例 上面说的...
二进制数-10.1在计算机中
浮点数
表示形式?
答:
二进制数-10.1在计算机中的
浮点数
表示形式为:1 10000001 01010011000000000000000 在计算机中,浮点数通常使用 IEEE 754 标准表示。对于一个二进制数-10.1,可以按照以下步骤将其
转换
为浮点数表示形式:将二进制数符号位设为1,表示负数。将整数部分转换为二进制数:10的二进制表示为1010。将小数部分转换...
vb 十进制数转
浮点数
答:
也许是我被CSng的名字骗到……但CSng(1.1234)=1.1234是不争的事实……我猜你用整型数储存的返回值吧……代码这样写:Dim mySng as Single '你是不是声明成Long或Integer了?mySng = CSng(1.1234) 'CSng参见下文 MsgBox mySng '是1.1234,一定是1.1234 '顺便问下楼主IEEE754
浮点数
和...
把短
浮点数
C1120000H
转换
成十进制真值?
答:
C1120000H = 11000001000100100000000000000000B 符号位为1,表示负数;指数位为10000010B,
转换
成十进制为130;尾数位为01001000000000000000000B,转换成十进制为294912。因此,这个短
浮点数
的十进制真值为:(-1) * 2^(130-127) * (1 + 294912/2^23) = (-1) * 2^3 * (1.140625) = -9.125 ...
浮点数
怎么
转换
成十六进制
答:
如果你想输出内存情况,按16进制数值,按字节依次输出。你可以用 union。下面例子,输出 float 和 double。include<stdio.h> union uuf { float f; char s[4]; } uf;union uud { double d; char s[8];} ud;int main(){ int i;uf.f = 12.345;for (i=3;i>=0;i--)printf("%02x...
<涓婁竴椤
1
2
3
4
5
6
7
8
9
10
涓嬩竴椤
灏鹃〉
其他人还搜