xzxzxz 发表于 2010-3-8 20:17:17

有关计算精确度的测试

根据sin-1cos-1tan-1tansincos9的测试，CASIO的图形计算器也有一定误差：

Casio FX-9860G SD / 9860G Slim8.999999998-2.40532 × 10-915
Casio FX-9860GII SD8.999999998-2.40532 × 10-915


拿CP330测试，得到的结果即为9，9860与CP330在计算精确度上也有差异？。。

hcz 发表于 2010-3-8 20:22:56

CP330带CAS，直接处理的

luciferjasonzy 发表于 2010-3-8 20:31:51

根据sin-1cos-1tan-1tansincos9的测试，CASIO的图形计算器也有一定误差：
Casio FX-9860G SD / 9860G Slim8.999999998-2.40532 × 10-915Casio FX-9860GII SD8.999999998-2.40532 × 10-915

拿CP330测试，得到的 ...
xzxzxz 发表于 2010-3-8 20:17 http://www.cncalc.org/images/common/back.gif
貌似这样是没有实根的吧……

[Boeing 617] 发表于 2010-3-8 20:57:30

有的有的

Nero 发表于 2010-3-8 21:28:15

我误以为第二列是价格……

urill 发表于 2010-3-9 00:49:23

在实际应用上最后的精确值根本没有任何用处
可是作业要用 orz

hcz 发表于 2010-3-11 17:39:32

我误以为第二列是价格……
991es82es 发表于 2010-3-8 21:28 http://www.cncalc.org/images/common/back.gif白菜价的9860

Cichol 发表于 2010-3-11 18:16:56

就是这个   盗版的比正版精度高
页: [1]
查看完整版本: 有关计算精确度的测试