原来有的时候计算器也会算不准

stanchcorder6 · 发表于 2018-8-24 01:59:29

这是CASIO算出的结果

这是SHARP算出的结果

正确答案是5，但是计算器却给出了很明显的错误答案，这是为什么？

stanchcorder6 · 发表于 2018-8-24 02:14:26

补充一个：在HP-Prime上测试，当CAS开启时，就可以返回正确的结果

DreamWater · 发表于 2018-8-24 09:58:58

本帖最后由 DreamWater 于 2018-8-24 10:00 编辑

我是入坑新人，TI-92 plus这个老图形机上可以得到正确的计算结果。

猜测可能是机器内部的有效位数导致的。20^10数值比较大，如果计算器设置的有效位数或者本身就有的有效位数比较少(12位或者更低)的话，20^10在计算器内部是这样表示的1.024e13=1.02 400 000 000 e013(1整数位11小数位)，而20^10+5=1.02 400 000 000 05e013，但是有效位只有12位所以那个5就没有能够被保存，结果还是1.02 400 000 000 e013，所以最终楼主所得到的计算结果是0.

带CAS的计算器（例如我这个老机器）需要处理数学符号，因此会有一定的机制来避免这种问题。（我猜的）

zyf722 · 发表于 2018-8-24 15:21:54

3L正解，内部有效位数和计算顺序的原因

wan · 发表于 2018-8-26 15:21:17

数值计算模式下，计算器内部精度不足导致的。支持CAS的计算器可以得到正确结果。用精度较高的计算器，如wp34s也可以得到正确结果。

2305247535 · 发表于 2018-9-2 14:28:13

是的，带CAS无压力……

cjsqd · 发表于 2020-2-7 14:21:26

帮顶

账号		自动登录	找回密码
密码			注册