cnCalc计算器论坛's Archiver
论坛
›
德州仪器(TI)图形编程计算器
› ti nspire cas比较大小有bug
负一的平方根
发表于 2014-1-22 11:28:18
ti nspire cas比较大小有bug
π≥3.1415926535898
显示true
而实际上π=3.141592653589793......
JS_Alert
发表于 2014-1-22 14:34:48
这和系统内部运算的精度有关,不属于CAS的Bug。
rourou_Jun
发表于 2014-1-22 15:57:36
这和cas没关系。还有基本上现在的图形机都会认为正确的。与内部精度有关
我的9750也告诉我正确。楼主不妨改为大于号再试试。
对精度过分要求会导致计算时间延长
结果得不偿失
页:
[1]
查看完整版本:
ti nspire cas比较大小有bug