Ruby China

新手问题 数据类型 (小数相减)

LPFpengfei · 2017年07月27日 · 最后由 LPFpengfei 回复于 2017年07月27日 · 1261 次阅读 
2.3.0 :001 > 0.4 - 0.3
 => 0.10000000000000003

这是为什么？怎么解决？

will7v #2 2017年07月27日

楼上说了怎么解决，小数计算为什么会出错 这个链接简单解释了为什么

LPFpengfei #3 2017年07月27日

运用 BigDecimal() 可以解决！！！以前都没注意这回事。。。。。。。

LPFpengfei 关闭了讨论。 07月27日 11:32
需要 登录 后方可回复, 如果你还没有账号请 注册新账号