cnCalc计算器论坛

 找回密码
 注册
搜索
12
返回列表 发新帖
楼主: yongdong7

神奇的计算器内部精度_续1=0.999···问题

[复制链接]
发表于 2010-8-30 16:49:24 | 显示全部楼层
我的9750GII 14个7就会显示7/9
 楼主| 发表于 2010-9-11 20:25:14 | 显示全部楼层
嗯,内部精度问题~
发表于 2011-10-1 23:27:59 | 显示全部楼层
输入3.141592653589793238462会出现π
发表于 2011-12-3 08:04:23 | 显示全部楼层
9750升级也一样
您需要登录后才可以回帖 登录 | 注册

本版积分规则

Archiver|手机版|cnCalc计算器论坛

GMT+8, 2024-4-23 22:07 , Processed in 0.061407 second(s), 18 queries .

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表