新手问题 Float 型相加结果是多为小数

jin9209 · 2014年12月24日 · 最后由 jin9209 回复于 2014年12月24日 · 1827 次阅读

1.1+1.2=2.3 但是 51.7+12.9=64.60000000000001 不是应该 64.6 吗?

浮点数精度是所有语言都有的问题。在 Ruby 里面你可以用 Decimal 类。

剖析 float 型的内存存储和精度丢失问题 http://hxraid.iteye.com/blog/504293

float 类型计算有问题的,这应该算是编程常识。

相关讨论:https://ruby-china.org/topics/5650

计算机常识。搜索 IEEE 754

哦,学习了。

需要 登录 后方可回复, 如果你还没有账号请 注册新账号