cnCalc计算器论坛

 找回密码
 注册
搜索
查看: 1942|回复: 0

【牛顿解方程】小数异常

[复制链接]
发表于 2009-2-20 12:33:05 | 显示全部楼层 |阅读模式
最近我用了用8+21的牛顿解方程,发现到计算结果为小数会出现一些问题
1、计算出的结果为小数会弄出两种模式:
一、AC后下方显示乱码为某乱码加J(乱码样的J)(我下面就叫他J乱码模式)
二、牛顿解方程初始化前一步的模式
2、解决方法是初始化1和2一次,回到解方程模式
3、小数不同会有不同样式:
0.1~0.9
0.1:显示十分之一,然后进入模式二
0.2:显示五分之一,同上
0.3:有一点点屏幕划线,但按ac可以消除,进入J乱码模式
0.4:同上
0.5:显示二分之一,同0.1
0.6:屏幕宽的屏幕划线,但按ac可以消除,进入J乱码模式
0.7:同上
0.8:结果分子分母都以科学计数法表示,进入J乱码模式
0.9:同上
多位小数点有时候还能造成屏幕只显示6h,但结果为自己输入的字符
还有可能会造成全屏白屏
4、如果溢出模式二能够进入牛顿解方程,那么J乱码模式如果溢出也可以进入牛顿解方程,J乱码模式怎么调试还要再看一下。

评分

参与人数 1 +10 收起 理由
chsi + 10 原创内容

查看全部评分

您需要登录后才可以回帖 登录 | 注册

本版积分规则

Archiver|手机版|cnCalc计算器论坛

GMT+8, 2024-3-28 17:37 , Processed in 0.081301 second(s), 26 queries .

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表