zy3qq 发表于 2012-9-4 20:58:49

辟谣:关于50g的整数计算最大值

本帖最后由 zy3qq 于 2012-9-4 21:00 编辑

之前论坛里tian兄有过评测,其中指出50g最大能够计算10的9999次方,其实不然。近日我在50g上测试发现虽然10^10000会报出整数过大的错误,但10^9999*10却可正常计算。今天我进行了进一步的测试,50g耗时约2节课(一个半小时左右)算出了9999!,此数大约有35000多位,远超之前所说的10^9999。于是我终于开始理解惠普所谓"整数精度限于内存"的说法。这样一来似乎50g很适合使用系统本身直接进行高精度计算,而不必另外编写高精度算法的程序。不过此次测试发现惠普将很多函数(比如阶乘和次方)的自变量限制在9999以下,不知是何用意。
大家自可用模拟器验证,如用实机请外接usb供电,此类长时间计算极其耗电,很快就会耗完电池的。

顺便说一下我并没有指责tian兄的意思,这只是正常讨论。tian兄的那一篇评测对论坛内50g相关信息的普及有很大作用,我对他相当敬佩。
附上tian兄的评测:
http://www.cncalc.org/viewthread.php?tid=7151

diameter 发表于 2012-9-5 18:18:29

就是超长精度整数了~eigenmath里面就有实现。刚才试了一下,9999!无压力
页: [1]
查看完整版本: 辟谣:关于50g的整数计算最大值