ywjno (冬天温泉) · 回帖

执行系统命令且日志重定向 at 2014年01月13日

没有读写磁盘的权限？

新 JRuby: 超快 JIT w/ Graal & Truffle at 2014年01月10日

一个新的 java 虚拟机？

几本电子书的消息 at 2014年01月09日

#23 楼 @andor_chen 这本书居然是在另一个地方销售现在才反应过来。。。

几本电子书的消息 at 2014年01月09日

为了支持译者我决定再去 leanpub 买本『Ruby on Rails 教程』（以前通过淘宝买的但是图灵貌似木有 epub 版本好悲催。。。

想生产一批 Macbook 支架，看看大伙的意见 at 2014年01月09日

amazon 买的 actto 这个牌子的才 50 不到也挺好用的

几本电子书的消息 at 2014年01月08日

支持译者 PS：图灵的电子书没有 epub 格式的？

在 Windows 下安装 mysql.gem 的问题 at 2014年01月03日

mysql2 装 0.3.11 版本的试试，我本地这个版本的能跑起来

js 的浮点数运算，如何最有效的保留小数？ at 2014年01月03日

#16 楼 @luikore 多谢吕大大的回答， 345.363631248474 是某第三方系统导出的 excel 里面的数据，因为要求数据要跟 excel 公式计算一致，所以这个细节完全就给忽视了。。。

js 的浮点数运算，如何最有效的保留小数？ at 2014年01月02日

update1：下文有技术层面的错误，为了保证当初原文的完整此帖不做修改，请继续看下面的回帖

以下文字皆纪念某次通宵干到早上 5 点，在导入 excel 数据的时候发现的问题

首先我们来进行试验，掏出你的计算器吧，我用的是貌似中小学生标配的计算器 casio fx-991ES PLUS，在里面 1）输入 345.363631248474*1024*1024，得到结果362140015 2）输入 449.179866790771*1024*1024，得到结果470999228 注意，OS X 10.9 系统自带的计算器连1/3*3都算不准的咱还是换一个计算器来玩吧，win xp 的计算器算这个算式都会得出正确答案

为了验证是否正确，接着打开一个类似 excel 的东东——我用的是 WPS 表格（8.1.0.3526） 1）在 A1单元格输入345.363631248474，B1单元格输入 =A1*1024*1024，得到结果 362140015 2）在 A2单元格输入449.179866790771，B2单元格输入 =A2*1024*1024，得到结果 470999228 以上证明咱没有手误之类的问题注意，xubuntu 自带的 Gnumeric 电子表格计算是不准确的，Numbers 倒是能算正确，其他未知

接下来看看 ruby 的表现如何

require 'bigdecimal'
require 'bigdecimal/util'

result1 = BigDecimal.new("345.363631248474") * BigDecimal.new(1024*1024)

puts "here is 345.363631248474 result"
puts result1.to_s
puts result1.to_i
puts result1.to_f
puts result1.to_digits

puts '='*50

result2 = BigDecimal.new("449.179866790771") * BigDecimal.new(1024*1024)

puts "here is 449.179866790771 result"
puts result2.to_s
puts result2.to_i
puts result2.to_f
puts result2.to_digits

得到的结果是

here is 345.363631248474 result
0.362140014999999873024E9
362140014
362140014.9999999
362140014.999999873024
==================================================
here is 449.179866790771 result
0.470999227999999492096E9
470999227
470999227.99999946
470999227.999999492096

这段代码在版本 1.9.3 跟 2.1.0 运行的结果都一样。

用 java 写上面的计算的话也是同样结果，有兴趣的可以试试，我就不上代码了。

到这里基本可以看出计算浮点类型的差不多都是不准确了。

但是，excel 的公式就是计算准确的么？

我们接着在刚才那个 excel 文件里面做如下试验 1）在 C1单元格输入=B1&""，得到结果 362140015 2）在 C2单元格输入=B2&""，得到结果 470999227.999999

把上一个单元格计算正确的数字变成文本类型的时候，居然就又不正确了，这到底是怎么回事，有谁能解释一下么？

计算器计算正确的背后，它到底用了什么东西能让浮点数运算正确？

js 的浮点数运算，如何最有效的保留小数？ at 2014年01月02日

#9 楼 @lgn21st 你该换个计算器了，