Ruby 如何提高 Ruby 中数字的最大值

1875508391 · 2015年01月23日 · 最后由 1875508391 回复于 2015年01月26日 · 2288 次阅读

我在计算过程中,数字太大了,Ruby 显示为 nan,我应该如何做才能增加数字的表示范围呢?谢谢了。

BigDecimal

在使用 BigDecimal 前建议你先仔细检查一下代码,正常情况下 Float 能表示的数的绝对值足够大了(反而有时候可能是因为精度不够——只有 15 位有效数字,所以需要采用别的表示方法)。 另外 NaN(Not a Number)也不一定是计算过程中溢出了,也有可能是有错误,如对负数开方。

谢谢了,我是做组合计算时出现问题的,相乘起来的数字太大

#2 楼 @neutralevil 谢谢了,我是做组合计算时出现问题的,相乘起来的数字太大

需要 登录 后方可回复, 如果你还没有账号请 注册新账号