关于prime计算精确度的疑问

tojohideki

prime的各种小bug我在此就不吐槽了，以前就知道它的精确度是我见过的最差的，今天突然发现一个十分奇葩的情况，我觉得这已经不是精确度的问题了，望各位大大们解答。第一个开了CAS，第二个没有开

panyaolin123

开了CAS精度反而更差？   不太可能吧。。
我觉得会不会是CAS对那个表达式理解错误，    或者你用分数来算算看？

tojohideki

panyaolin123 发表于 2014-3-19 20:21
开了CAS精度反而更差？   不太可能吧。。
我觉得会不会是CAS对那个表达式理解错误，    或者你用分数来算算 ...

用分数算答案是没有问题的
算那个asin(acos(atan(tan(coa(sin(9))))))的时候，开和不开CAS算出来也是两个答案

吉吉0531

第一个结果是怎么做到了。。。。好神奇！

panyaolin123

tojohideki 发表于 2014-3-19 20:34
用分数算答案是没有问题的
算那个asin(acos(atan(tan(coa(sin(9))))))的时候，开和不开CAS算出来也是两个 ...

那可能真的是系统设计的问题了。。

话说其它计算器的CAS都没有这样子的。

wtof1996

本身OS就不是很成熟...目前问题也很多
另:Prime本身浮点精度只有10位的样子，所以建议尽量使用分数

rourou_Jun

吉吉0531 发表于 2014-3-19 21:03
第一个结果是怎么做到了。。。。好神奇！

很小的一个数  可能是cas精度问题

吉吉0531

rourou_Jun 发表于 2014-3-19 21:33
很小的一个数  可能是cas精度问题

TI CX CAS却完全正确

DWS2HMIX

没开cas精度12位

twsg

我不懂，但是我帮你顶起来

dousha99

浮点数误差。Giac 后端是有这样的问题的。事实上几乎所有的正经实现的浮点数运算都会出这种结果。
这...只能说惠普很遵守 IEEE 754 标准了。不过确实是个大坑。
这不是精度差，而是它真实地给你展现了计算结果的原因。在你用硅酸钙、德仪的时候，没出这种结果要么是因为进行了符号运算，要么是用近似方法抹去误差（的同时会降低精度）。Giac 在写的时候偷懒没用符号计算，直接当作浮点数求值出结果了，所以就是有一个非常小的尾巴留了下来成为结果。
不过让我好奇的是，在进行加法的时候没有出浮点数误差，这大概真的是因为 Giac 的作者偷懒没给减法写对应功能了吧。

imath

避免两个相近的数相减
加法是大数会吃掉小数 ，我这里只作一个预测。

imath

测试了一下，比如9876543210+0.000000001= 9876543210，加了那个小数已经被吃掉了😂

2536733858

回一下看看有没有金币

8086

惠普的精度看上去很低（相比其他韩书记）

phuagang

我也遇到楼主的问题，G2的硬件

2003XP666

我的V1好像也有问题

2003XP666

确实奇怪

2003XP666

更新系统一下

2003XP666

20250915