我在计算过程中,数字太大了,Ruby 显示为 nan,我应该如何做才能增加数字的表示范围呢?谢谢了。
BigDecimal
在使用 BigDecimal 前建议你先仔细检查一下代码,正常情况下 Float 能表示的数的绝对值足够大了(反而有时候可能是因为精度不够——只有 15 位有效数字,所以需要采用别的表示方法)。 另外 NaN(Not a Number)也不一定是计算过程中溢出了,也有可能是有错误,如对负数开方。
谢谢了,我是做组合计算时出现问题的,相乘起来的数字太大
#2 楼 @neutralevil 谢谢了,我是做组合计算时出现问题的,相乘起来的数字太大