cnCalc计算器论坛

 找回密码
 注册
搜索
查看: 3717|回复: 1

辟谣:关于50g的整数计算最大值

[复制链接]
发表于 2012-9-4 20:58:49 | 显示全部楼层 |阅读模式
本帖最后由 zy3qq 于 2012-9-4 21:00 编辑

之前论坛里tian兄有过评测,其中指出50g最大能够计算10的9999次方,其实不然。近日我在50g上测试发现虽然10^10000会报出整数过大的错误,但10^9999*10却可正常计算。今天我进行了进一步的测试,50g耗时约2节课(一个半小时左右)算出了9999!,此数大约有35000多位,远超之前所说的10^9999。于是我终于开始理解惠普所谓"整数精度限于内存"的说法。这样一来似乎50g很适合使用系统本身直接进行高精度计算,而不必另外编写高精度算法的程序。不过此次测试发现惠普将很多函数(比如阶乘和次方)的自变量限制在9999以下,不知是何用意。
大家自可用模拟器验证,如用实机请外接usb供电,此类长时间计算极其耗电,很快就会耗完电池的。

顺便说一下我并没有指责tian兄的意思,这只是正常讨论。tian兄的那一篇评测对论坛内50g相关信息的普及有很大作用,我对他相当敬佩。
附上tian兄的评测:
http://www.cncalc.org/viewthread.php?tid=7151

评分

参与人数 2金钱 +7 收起 理由
diameter + 4 欢迎探讨
Nero + 3 欢迎探讨

查看全部评分

发表于 2012-9-5 18:18:29 | 显示全部楼层
就是超长精度整数了~eigenmath里面就有实现。刚才试了一下,9999!无压力
您需要登录后才可以回帖 登录 | 注册

本版积分规则

Archiver|手机版|cnCalc计算器论坛

GMT+8, 2024-4-27 05:05 , Processed in 0.054401 second(s), 23 queries .

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表