cnCalc计算器论坛 [原fx-es(ms)论坛]

 找回密码
 注册
搜索
查看: 543|回复: 5

原来有的时候计算器也会算不准

[复制链接]
发表于 2018-8-24 01:59:29 | 显示全部楼层 |阅读模式
LCD_20180824_014943 - Copy.bmp
这是CASIO算出的结果

LCD_20180824_014943.bmp
这是SHARP算出的结果


正确答案是5,但是计算器却给出了很明显的错误答案,这是为什么?
 楼主| 发表于 2018-8-24 02:14:26 | 显示全部楼层
补充一个:在HP-Prime上测试,当CAS开启时,就可以返回正确的结果
Screenshot_20180824-020330.png
发表于 2018-8-24 09:58:58 | 显示全部楼层
本帖最后由 DreamWater 于 2018-8-24 10:00 编辑

我是入坑新人,TI-92 plus这个老图形机上可以得到正确的计算结果。

SCREEN01.BMP

猜测可能是机器内部的有效位数导致的。20^10数值比较大,如果计算器设置的有效位数或者本身就有的有效位数比较少(12位或者更低)的话,20^10在计算器内部是这样表示的1.024e13=1.02 400 000 000 e013(1整数位11小数位),而20^10+5=1.02 400 000 000 05e013,但是有效位只有12位所以那个5就没有能够被保存,结果还是1.02 400 000 000 e013,所以最终楼主所得到的计算结果是0.

带CAS的计算器(例如我这个老机器)需要处理数学符号,因此会有一定的机制来避免这种问题。(我猜的)
发表于 2018-8-24 15:21:54 | 显示全部楼层
3L正解,内部有效位数和计算顺序的原因
发表于 2018-8-26 15:21:17 | 显示全部楼层
数值计算模式下,计算器内部精度不足导致的。支持CAS的计算器可以得到正确结果。用精度较高的计算器,如wp34s也可以得到正确结果。
发表于 2018-9-2 14:28:13 | 显示全部楼层
是的,带CAS无压力……
您需要登录后才可以回帖 登录 | 注册

本版积分规则

联系站长|Archiver|手机版|cnCalc计算器论坛  

GMT+8, 2019-2-23 19:29 , Processed in 0.033721 second(s), 22 queries .

Powered by Discuz! X3.3

© 2001-2017 Comsenz Inc.

快速回复 返回顶部 返回列表