关于prime计算精确度的疑问
prime的各种小bug我在此就不吐槽了，以前就知道它的精确度是我见过的最差的，今天突然发现一个十分奇葩的情况，我觉得这已经不是精确度的问题了，望各位大大们解答。第一个开了CAS，第二个没有开开了CAS精度反而更差？ 不太可能吧。。
我觉得会不会是CAS对那个表达式理解错误， 或者你用分数来算算看？ panyaolin123 发表于 2014-3-19 20:21 static/image/common/back.gif
开了CAS精度反而更差？ 不太可能吧。。
我觉得会不会是CAS对那个表达式理解错误， 或者你用分数来算算 ...
用分数算答案是没有问题的
算那个asin(acos(atan(tan(coa(sin(9))))))的时候，开和不开CAS算出来也是两个答案 第一个结果是怎么做到了。。。。好神奇！ tojohideki 发表于 2014-3-19 20:34
用分数算答案是没有问题的
算那个asin(acos(atan(tan(coa(sin(9))))))的时候，开和不开CAS算出来也是两个 ...
那可能真的是系统设计的问题了。。
话说其它计算器的CAS都没有这样子的。 本身OS就不是很成熟...目前问题也很多
另:Prime本身浮点精度只有10位的样子，所以建议尽量使用分数 吉吉0531 发表于 2014-3-19 21:03
第一个结果是怎么做到了。。。。好神奇！
很小的一个数可能是cas精度问题 rourou_Jun 发表于 2014-3-19 21:33 static/image/common/back.gif
很小的一个数可能是cas精度问题
TI CX CAS却完全正确 没开cas精度12位 我不懂，但是我帮你顶起来 浮点数误差。Giac 后端是有这样的问题的。事实上几乎所有的正经实现的浮点数运算都会出这种结果。
这...只能说惠普很遵守 IEEE 754 标准了。不过确实是个大坑。
这不是精度差，而是它真实地给你展现了计算结果的原因。在你用硅酸钙、德仪的时候，没出这种结果要么是因为进行了符号运算，要么是用近似方法抹去误差（的同时会降低精度）。Giac 在写的时候偷懒没用符号计算，直接当作浮点数求值出结果了，所以就是有一个非常小的尾巴留了下来成为结果。
不过让我好奇的是，在进行加法的时候没有出浮点数误差，这大概真的是因为 Giac 的作者偷懒没给减法写对应功能了吧。 避免两个相近的数相减
加法是大数会吃掉小数 ，我这里只作一个预测。 测试了一下，比如9876543210+0.000000001= 9876543210，加了那个小数已经被吃掉了😂 回一下看看有没有金币 惠普的精度看上去很低（相比其他韩书记）
页:
[1]