负一的平方根 发表于 2014-1-23 17:26:29

文档设置中浮点和浮点12有什么区别

好像一样 有区别吗

rourou_Jun 发表于 2014-1-23 20:51:44

我也觉得一样。。。
而且定点又是什么

负一的平方根 发表于 2014-1-24 11:31:42

rourou_Jun 发表于 2014-1-23 20:51 static/image/common/back.gif
我也觉得一样。。。
而且定点又是什么

定点是用0补全啊,1.5要显示成1.5000000

asdfghjklzzz 发表于 2014-3-2 10:58:19

我的理解:
浮点4    0.1显示为0.1、0.12显示为0.12、0.12346显示为0.1235
定点则是负一兄说的
定点是用0补全啊,1.5要显示成1.5000000

吉吉0531 发表于 2014-3-8 15:11:41

因为计算机只能存储整数,所以实数都是约莫,这样浮点运算是很慢的而且会有误差现在大多数机器都是32位的,也就是说32为都用来表示整数的话,那么对于无符号整数就是0 到 2^32-1,对于有符号的话就是-2^31 到 2^31-1。如果是实数的话,就不是这样了,机器有两种办法表示实数,一种是定点,就是小数点位置是固定的,一种是浮点,就是小数点位置不固定,计算方法也比较麻烦,通常会比整数运算代价大很多


我百度的。。。

rourou_Jun 发表于 2014-3-8 15:52:49

吉吉0531 发表于 2014-3-8 15:11
因为计算机只能存储整数,所以实数都是约莫,这样浮点运算是很慢的而且会有误差现在大多数机器都是32位的, ...

So?具体区别是什么

吉吉0531 发表于 2014-3-8 16:15:04

rourou_Jun 发表于 2014-3-8 15:52 static/image/common/back.gif
So?具体区别是什么

定点数受字长的限制,超出范围会有溢出
其浮点数的精度由尾数决定,数的表示范围由阶码决定。
我一般浮点12

rourou_Jun 发表于 2014-3-8 16:29:05

吉吉0531 发表于 2014-3-8 16:15
定点数受字长的限制,超出范围会有溢出
其浮点数的精度由尾数决定,数的表示范围由阶码决定。
我一般浮 ...

不是吧……计算器在内部计算的时候都是一样的我们设置的只是他的输出

吉吉0531 发表于 2014-3-8 16:44:09

rourou_Jun 发表于 2014-3-8 16:29 static/image/common/back.gif
不是吧……计算器在内部计算的时候都是一样的我们设置的只是他的输出

对啊,就是输出呀

艾哈迪利 发表于 2014-3-9 21:46:49

为什么我的默认是浮点4?
页: [1]
查看完整版本: 文档设置中浮点和浮点12有什么区别