cnCalc计算器论坛

 找回密码
 注册
搜索
查看: 2608|回复: 3

[聊天] 询问关于贪官问题

[复制链接]
发表于 2012-6-2 06:16:29 | 显示全部楼层 |阅读模式
老贴里有一个"贪官是怎样炼成的"
我不明白为什么-10!在里面却不影响最终的结果,难道是误差
发表于 2012-6-2 12:31:19 | 显示全部楼层
确实是误差。
发表于 2012-6-2 19:17:03 | 显示全部楼层
1# rouren
我都是减1000的……科学计数法懂吧,82只能存十几位有效数字,太小的四舍五入
发表于 2012-6-2 21:03:49 | 显示全部楼层
3# GWHBOB


15位有效数字,包括9系图形机。
您需要登录后才可以回帖 登录 | 注册

本版积分规则

Archiver|手机版|cnCalc计算器论坛

GMT+8, 2024-4-30 10:03 , Processed in 0.054845 second(s), 22 queries .

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表