cnCalc计算器论坛

 找回密码
 注册
搜索
查看: 1817|回复: 0

[泛手持计算设备] 再论佳能函数机789sga的精度,有新发现

[复制链接]
发表于 2015-10-12 09:01:52 | 显示全部楼层 |阅读模式
图我就不上了,毕竟大家也是都有这种计算器的。文字描述就OK了。

通过佳能的键盘进行屏幕录入数值,发现可以一次性接受18位有效数字,超过了会放弃后面多余的部分。 (卡西欧82ms只能一次性接受10位有效数字),然后我用间接的方式来继续考察该款计算器真正的内部运算精度是多少,方法如下:

输入:(其中要用到两次10个1)

1111111111+0.123456789876-1111111111

结果会显示 0.1234567898

这个结果是惊人的,这表明,该款计算器的内部精度不是明面上流传的18位精度,而是20位精度!!!

大家不妨自己验证下。


您需要登录后才可以回帖 登录 | 注册

本版积分规则

Archiver|手机版|cnCalc计算器论坛

GMT+8, 2024-4-20 23:22 , Processed in 0.059124 second(s), 18 queries .

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表