Ruby China

瞎扯淡 Ruby 数学乘法 0.07 * 100 = 7.00000000001

nxbtch · 2015年03月05日 · 最后由 ywjno 回复于 2015年03月05日 · 1797 次阅读

javascript 中也是这样

qinix #1 2015年03月05日

float 在用二进制保存浮点数时候会出现丢失精度

追求高精度的话使用 Decimal，底层用字符串存储

ywjno #2 2015年03月05日

遵循 IEEE 标准

需要 登录 后方可回复, 如果你还没有账号请 注册新账号