stanchcorder6 发表于 2018-8-24 01:59:29

原来有的时候计算器也会算不准


这是CASIO算出的结果


这是SHARP算出的结果


正确答案是5,但是计算器却给出了很明显的错误答案,这是为什么?

stanchcorder6 发表于 2018-8-24 02:14:26

补充一个:在HP-Prime上测试,当CAS开启时,就可以返回正确的结果

DreamWater 发表于 2018-8-24 09:58:58

本帖最后由 DreamWater 于 2018-8-24 10:00 编辑

我是入坑新人,TI-92 plus这个老图形机上可以得到正确的计算结果。



猜测可能是机器内部的有效位数导致的。20^10数值比较大,如果计算器设置的有效位数或者本身就有的有效位数比较少(12位或者更低)的话,20^10在计算器内部是这样表示的1.024e13=1.02 400 000 000 e013(1整数位11小数位),而20^10+5=1.02 400 000 000 05e013,但是有效位只有12位所以那个5就没有能够被保存,结果还是1.02 400 000 000 e013,所以最终楼主所得到的计算结果是0.

带CAS的计算器(例如我这个老机器)需要处理数学符号,因此会有一定的机制来避免这种问题。(我猜的)

zyf722 发表于 2018-8-24 15:21:54

3L正解,内部有效位数和计算顺序的原因

wan 发表于 2018-8-26 15:21:17

数值计算模式下,计算器内部精度不足导致的。支持CAS的计算器可以得到正确结果。用精度较高的计算器,如wp34s也可以得到正确结果。

2305247535 发表于 2018-9-2 14:28:13

是的,带CAS无压力……
页: [1]
查看完整版本: 原来有的时候计算器也会算不准