原来有的时候计算器也会算不准
这是CASIO算出的结果
这是SHARP算出的结果
正确答案是5，但是计算器却给出了很明显的错误答案，这是为什么？
补充一个：在HP-Prime上测试，当CAS开启时，就可以返回正确的结果
本帖最后由 DreamWater 于 2018-8-24 10:00 编辑
我是入坑新人，TI-92 plus这个老图形机上可以得到正确的计算结果。
猜测可能是机器内部的有效位数导致的。20^10数值比较大，如果计算器设置的有效位数或者本身就有的有效位数比较少(12位或者更低)的话，20^10在计算器内部是这样表示的1.024e13=1.02 400 000 000 e013(1整数位11小数位)，而20^10+5=1.02 400 000 000 05e013，但是有效位只有12位所以那个5就没有能够被保存，结果还是1.02 400 000 000 e013，所以最终楼主所得到的计算结果是0.
带CAS的计算器（例如我这个老机器）需要处理数学符号，因此会有一定的机制来避免这种问题。（我猜的）
3L正解，内部有效位数和计算顺序的原因 数值计算模式下，计算器内部精度不足导致的。支持CAS的计算器可以得到正确结果。用精度较高的计算器，如wp34s也可以得到正确结果。 是的，带CAS无压力…… 帮顶
页:
[1]