cnCalc计算器论坛 [原fx-es(ms)论坛]

 找回密码
 注册
搜索
楼主: cleansky

[纯编程、古董] 发一个测试计算精确度的公式

[复制链接]
 楼主| 发表于 2011-2-18 20:39:52 | 显示全部楼层
cp用cas预处理后忽略了前面一堆
对于cas机子,要分布计算出数值,再用ans代入
zhj 发表于 2011-2-18 20:01

cas直接回车是输出9,但是按约等于(CTRL+Enter)后,似乎结果比较差。
发表于 2011-2-19 12:39:42 | 显示全部楼层
Classpad没有约等于的符号
发表于 2011-2-19 12:40:01 | 显示全部楼层
round函数是没有CAS的计算器的产物
发表于 2011-2-19 12:41:40 | 显示全部楼层
我教教你该怎么测精度吧

Nspire里面输入round(sin-1(cos-1( tan-1 (tan (cos (sin( 9 )))))),2)  ( 其中 9 使用 Degree 度数模式 )
 楼主| 发表于 2011-2-19 20:12:03 | 显示全部楼层
我教教你该怎么测精度吧

Nspire里面输入round(sin-1(cos-1( tan-1 (tan (cos (sin( 9 )))))),2)  ( 其中 9 使用 Degree 度数模式 )
imath 发表于 2011-2-19 12:41

我想发这个测试公式的目的是让大家了解或者讨论一下计算精度问题,比较一下各类计算器在数值精度方面的优劣,并不是想来学习什么或者教别人什么。

刚刚了解这个论坛(虽然对数学的了解要久远得多),也才用手持计算器不久,以前一直在做有限元的计算工作,希望大家能通过一个论坛很好的沟通与学习,而不是其他的。。。。
 楼主| 发表于 2011-2-19 20:34:27 | 显示全部楼层
最后一行是约等于,倒数第二行是直接回车的结果。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?注册

x
发表于 2011-2-19 22:04:34 | 显示全部楼层
假如叫你计算 (根号2+1)^2
试问在试卷上你保留到多少位?
 楼主| 发表于 2011-2-19 22:19:47 | 显示全部楼层
这个要根据试卷要求的有效小数位数来确定
发表于 2011-2-19 22:35:49 | 显示全部楼层
我的Ti-nspire CAS显示
sin-1(cos-1( tan-1 (tan (cos (sin( 9 ))))))             9(Enter)
sin-1(cos-1( tan-1 (tan (cos (sin( 9 ))))))             9.(Ctrl+Enter)
发表于 2011-2-19 23:09:25 | 显示全部楼层
nspire cas 无压力显示9,用约等于显示9.
 楼主| 发表于 2011-2-20 00:44:29 | 显示全部楼层
真是奇怪啊,莫非是RP问题?呵呵,各位有CAS的兄弟都来算算。
发表于 2011-2-20 09:12:07 | 显示全部楼层
不是人品问题,是Float设置问题。
选中输出9.的那一行按回车复制下来你会看到不是9, 9是NSpire根据Float的设置四舍五入后的结果。
发表于 2011-2-20 09:39:21 | 显示全部楼层
测试结果:991es plus、82es、82es plus均为9.00000000733338
发表于 2011-2-20 10:33:39 | 显示全部楼层
CASIO fx-991MS:
8.999998637
HP 39gs:
8.99999864267
CASIO fx-9750GII (Upgrade to 9860GII):
8.999999998
发表于 2011-2-20 12:43:50 | 显示全部楼层
那是浮点设置问题. 只需要不设置或者设置为1~9之间即可
发表于 2011-2-20 12:44:23 | 显示全部楼层
当然,我一般设置为12
我从来不怎么用约等于的..
发表于 2011-2-20 12:44:45 | 显示全部楼层
真是奇怪啊,莫非是RP问题?呵呵,各位有CAS的兄弟都来算算。
cleansky 发表于 2011-2-20 00:44

计算器不会出错,只有按错
发表于 2011-3-2 00:58:00 | 显示全部楼层
CAS 等于9, 是由于浮点设置问题,把它设为12位,结果就是8.999...
发表于 2011-3-25 03:08:13 | 显示全部楼层
9.000000007

5800P
发表于 2011-5-14 18:17:04 | 显示全部楼层
盗版fx-82es
8.999999998
您需要登录后才可以回帖 登录 | 注册

本版积分规则

联系站长|Archiver|手机版|cnCalc计算器论坛  

GMT+8, 2019-1-18 16:00 , Processed in 0.113294 second(s), 21 queries .

Powered by Discuz! X3.3

© 2001-2017 Comsenz Inc.

快速回复 返回顶部 返回列表