新手问题 Float 型相加结果是多为小数

jin9209 · December 24, 2014 · Last by jin9209 replied at December 24, 2014 · 1823 hits

1.1+1.2=2.3 但是 51.7+12.9=64.60000000000001 不是应该 64.6 吗?

浮点数精度是所有语言都有的问题。在 Ruby 里面你可以用 Decimal 类。

剖析 float 型的内存存储和精度丢失问题 http://hxraid.iteye.com/blog/504293

float 类型计算有问题的,这应该算是编程常识。

相关讨论:https://ruby-china.org/topics/5650

计算机常识。搜索 IEEE 754

哦,学习了。

You need to Sign in before reply, if you don't have an account, please Sign up first.