Ruby China

新手问题 数据类型 (小数相减)

LPFpengfei · July 27, 2017 · Last by LPFpengfei replied at July 27, 2017 · 1253 hits 
2.3.0 :001 > 0.4 - 0.3
 => 0.10000000000000003

这是为什么？怎么解决？

will7v #2 July 27, 2017

楼上说了怎么解决，小数计算为什么会出错 这个链接简单解释了为什么

LPFpengfei #3 July 27, 2017

运用 BigDecimal() 可以解决！！！以前都没注意这回事。。。。。。。

LPFpengfei closed this topic. 27 Jul 11:32
You need to Sign in before reply, if you don't have an account, please Sign up first.