Ruby 如何提高 Ruby 中数字的最大值

1875508391 · January 23, 2015 · Last by 1875508391 replied at January 26, 2015 · 2288 hits

我在计算过程中,数字太大了,Ruby 显示为 nan,我应该如何做才能增加数字的表示范围呢?谢谢了。

BigDecimal

在使用 BigDecimal 前建议你先仔细检查一下代码,正常情况下 Float 能表示的数的绝对值足够大了(反而有时候可能是因为精度不够——只有 15 位有效数字,所以需要采用别的表示方法)。 另外 NaN(Not a Number)也不一定是计算过程中溢出了,也有可能是有错误,如对负数开方。

谢谢了,我是做组合计算时出现问题的,相乘起来的数字太大

#2 楼 @neutralevil 谢谢了,我是做组合计算时出现问题的,相乘起来的数字太大

You need to Sign in before reply, if you don't have an account, please Sign up first.