Ruby ractor 跑一段简单代码,百分百崩溃

tomanderson · 2021年02月08日 · 最后由 dsh0416 回复于 2021年07月12日 · 1211 次阅读

昨天我试图在真实项目中应用 ractor,测出了 ractor 2 线程比 ractor 1 线程慢近 1 倍的诡异现象。原贴在此:https://ruby-china.org/topics/40901

今天继续折腾 ractor。经过一系列的失望,我对 ractor 的期望值已经非常低了,我只要它跑起来不要崩溃就谢天谢地了。因为在测试过程中,经常出现 rails 崩溃的情况。结果,我发现一段非常简单的代码,就能让 ractor 百分百崩溃……

先贴出不用 ractor 的单线程方法,当然运行是正常的:

e = (1..1000).to_a
arr = [e,e,e,e]

arr.map { |sub_arr|
  sub_arr.map {
    md5(rand.to_s)
  }
}.flatten

就是随机生成字符串做 md5。md5 调用 module 中的方法 Digest::MD5.hexdigest(str)。代码中分成 4 个子数组,是为了和 ractor 对比,ractor 方法会开 4 个线程,每个线程处理 1 个子数组:

arr.map { |sub_arr|
  Ractor.new(sub_arr) do |sub_arr|
    sub_arr.map {
      md5(rand.to_s)
    }
  end
}.map{|r| r.take}.reduce(:+)

这段代码每次运行都会导致 rails 崩溃,报错:*** Error in `puma 5.2.1 (tcp://0:3001) : free(): invalid next size (fast): 0x00007fa7d80032a0 ***

是代码的问题吗?把 e 改为 1..100,立马不崩溃了,怎么解释?

e=1..1 万、100 万,又崩溃了。是计算量太大导致崩溃的吗?然而,同样数值用非 ractor 的普通单线程方法,却完全正常。

我的环境是 ruby3.0+rails6.1.1,所有 gem 升到最新。2 核 4 线程 cpu,空闲内存有 4g。大家可以用自己的环境重现试试。

要么是我代码的问题,要么是环境的问题,要么是 ractor 本身的问题,我想不出别的可能了。希望是我自己的问题,请各位打脸无妨。如果是我的问题,我还能改;如果是 ractor 的问题,那我只能弃用 ractor 了。

后续:

后来把这个问题发到https://bugs.ruby-lang.org/issues, 处理我问题的是 ko1(Koichi Sasada),他用一个更简化的版本复现了问题,只有一行代码:

2.times.map{ Ractor.new{ loop{ rand.to_s } } }.each(&:take)

看来基本可以确定是 ruby3.0 的 bug,大概率与 ractor 有关,可能与环境也有关。至于坑有多深我就不知道了,让大神去填吧。

各位如果方便的话,可以把这行代码放到 irb 里跑一下,只需 1 秒钟的时间。如果有人竟然不报错崩溃的,请回复我,我可以把情况发给 ko1 做个参考。

结局:

此问题已被 nobu 和 ko1 修复,原文如下:

Fixed the race condition when replacing freelist entry with its chained next element. At acquiring an entry, hold the entry once with the special value, then release by replacing it with the next element again after acquired. If another thread is holding the same entry at that time, spinning until the entry gets released.

tomanderson ractor 应用到真实项目,结果彻底失望 提及了此话题。 02月08日 11:17

试试加上 Ractor.yield 看还报错吗?

e = (1..100000).to_a
arr = [e,e,e,e]
arr.map { |sub_arr|
  Ractor.new(sub_arr) do |sub_arr|
    Ractor.yield sub_arr.map {
      md5(rand.to_s)
    }
  end
}.map{|r| r.take}.reduce(:+)
zhuoerri 回复

试了同样是报错的

huacnlee 内容不符合版规屏蔽此话题。 02月08日 15:55

如果是很容易复现崩溃应该果断去 https://bugs.ruby-lang.org/issues 提 bug,并且提供演示代码。以前我提过一个被火速修复了,nobu 不愧是修 bug 怪物。

Rei 回复

已经提了。不过现在还没有 assign

Intel Xeon E5-2680v2, Ivy Bridge, 20C/40T

32G DRAM

5.10.0-3-amd64 #1 SMP Debian 5.10.12-1 (2021-01-30) x86_64 GNU/Linux

Ruby 3.0.0

正常运行

require 'digest/md5'
e = (1..1_000_000).to_a
arr = [e,e,e,e]

result = arr.map { |sub_arr|
  Ractor.new(sub_arr) do |sub_arr|
    sub_arr.map {
      Digest::MD5.hexdigest(rand.to_s)
    }
  end
}.map{|r| r.take}.reduce(:+)

heap trace

kowalskidark 回复

这段代码一字不差地复制到 ractor.rb,我仍然是崩溃的……

我的环境是 ubuntu 16.04

tomanderson 回复

想自己找原因的话给几个建议

  1. 编译一个 -Og 的 ruby
  2. 把 valgrind 和 gdb 挂上去看看
kowalskidark 回复

Ubuntu 20.04 ruby 3.0.0p0

<internal:ractor>:267: warning: Ractor is experimental, and the behavior may change in future versions of Ruby! Also there are many implementation issues.
hh.rb:8: [BUG] Segmentation fault at 0x0000000000000000
ruby 3.0.0p0 (2020-12-25 revision 95aff21468) [x86_64-linux]

-- Control frame information -----------------------------------------------
c:0006 p:---- s:0022 e:000021 CFUNC  :digest
c:0005 p:---- s:0019 e:000018 CFUNC  :hexdigest
c:0004 p:0021 s:0014 e:000013 BLOCK  hh.rb:8 [FINISH]
c:0003 p:---- s:0011 e:000010 CFUNC  :map
c:0002 p:0006 s:0007 e:000006 BLOCK  hh.rb:7 [FINISH]
c:0001 p:---- s:0003 e:000002 (none) [FINISH]

-- Ruby level backtrace information ----------------------------------------
hh.rb:7:in `block (2 levels) in <main>'
hh.rb:7:in `map'
hh.rb:8:in `block (3 levels) in <main>'
hh.rb:8:in `hexdigest'
hh.rb:8:in `digest'

kowalskidark 回复

请问这是什么图?怎么生成的?请您赐教 👍

ruby 3.0.0p0 (2020-12-25 revision 95aff21468) [x86_64-darwin20]

3.0.0 :001 > 2.times.map{ Ractor.new{ loop{ rand.to_s } } }.each(&:take)
<internal:ractor>:267: warning: Ractor is experimental, and the behavior may change in future versions of Ruby! Also there are many implementation issues.
irb(81087,0x70000e914000) malloc: Incorrect checksum for freed object 0x7fa9b71ac8c0: probably modified after being freed.
Corrupt value: 0x3131313131313131
irb(81087,0x70000e914000) malloc: *** set a breakpoint in malloc_error_break to debug

ccmywish 回复

valgrind 里面的 massif 工具 trace heap

然后使用 massif-visualizer 进行可视化

Ractor 的 Experimental 确实指的就是楼主提到的这种情况。

仔细看了一下楼主提的 Issues 的后续 https://bugs.ruby-lang.org/issues/17612

问题出在浮点数转字符串的实现 https://github.com/ruby/ruby/blob/3acc81d9e41b18380b9e0168fe2b5e5e0c727256/missing/dtoa.c 没有正确处理多线程下数据竞争的情况

这个代码是一段经典的开源代码 gdtoa (David M. Gay's floating-point conversion library) 的修改。 Ractor 中 Float 是一种可以直接传递的 Number,默认是线程安全的。但是因为这个依赖库中这里没有处理,所以导致了问题。

Ractor 现在这个 Experimental 状态基本就是在测试这些边缘情况的问题,去年 MJIT 的测试状态差不多也是这样的。写着写着就 SegFault,然后一调试都是一些很怪的小问题。这个问题在 Ruby 3.0.2 中被修复。

需要 登录 后方可回复, 如果你还没有账号请 注册新账号