文档设置中浮点和浮点12有什么区别
好像一样 有区别吗我也觉得一样。。。
而且定点又是什么 rourou_Jun 发表于 2014-1-23 20:51 static/image/common/back.gif
我也觉得一样。。。
而且定点又是什么
定点是用0补全啊,1.5要显示成1.5000000 我的理解:
浮点4 0.1显示为0.1、0.12显示为0.12、0.12346显示为0.1235
定点则是负一兄说的
定点是用0补全啊,1.5要显示成1.5000000 因为计算机只能存储整数,所以实数都是约莫,这样浮点运算是很慢的而且会有误差现在大多数机器都是32位的,也就是说32为都用来表示整数的话,那么对于无符号整数就是0 到 2^32-1,对于有符号的话就是-2^31 到 2^31-1。如果是实数的话,就不是这样了,机器有两种办法表示实数,一种是定点,就是小数点位置是固定的,一种是浮点,就是小数点位置不固定,计算方法也比较麻烦,通常会比整数运算代价大很多
我百度的。。。 吉吉0531 发表于 2014-3-8 15:11
因为计算机只能存储整数,所以实数都是约莫,这样浮点运算是很慢的而且会有误差现在大多数机器都是32位的, ...
So?具体区别是什么 rourou_Jun 发表于 2014-3-8 15:52 static/image/common/back.gif
So?具体区别是什么
定点数受字长的限制,超出范围会有溢出
其浮点数的精度由尾数决定,数的表示范围由阶码决定。
我一般浮点12 吉吉0531 发表于 2014-3-8 16:15
定点数受字长的限制,超出范围会有溢出
其浮点数的精度由尾数决定,数的表示范围由阶码决定。
我一般浮 ...
不是吧……计算器在内部计算的时候都是一样的我们设置的只是他的输出 rourou_Jun 发表于 2014-3-8 16:29 static/image/common/back.gif
不是吧……计算器在内部计算的时候都是一样的我们设置的只是他的输出
对啊,就是输出呀 为什么我的默认是浮点4?
页:
[1]