分享 Sidekiq:导致 Frozen Worker 的两个风险

xiaoronglv · 2015年01月15日 · 最后由 pathbox 回复于 2016年01月27日 · 4680 次阅读

今天生产环境的 Sidekiq 出现了一件奇怪的事情:16个线程都处于 busy 状态。

[boohee@tiger ~]$ ps aux|grep plan
boohee   sidekiq 3.2.6 plan [16 of 16 busy] 

所有的异步任务都卡住了,sidekiq.log 中也没有任何动静。

到底出了什么问题呢?我开始猜。

猜测1:Sidekiq 进程假死了?

这个项目部署在两台服务器上,老虎和狮子。

老虎的 sidekiq 线程全忙。

[boohee@tiger ~]$ ps aux|grep plan
boohee   sidekiq 3.2.6 plan [16 of 16 busy] 

狮子的 sidekiq 线程全忙

[boohee@lion ~]$ ps aux|grep plan
boohee   sidekiq 3.2.6 plan [16 of 16 busy] 

两台服务器的 sidekiq 同时假死,不可能这么巧吧。

用 Capistrano 重启 Sidekiq,重启成功,堆积的异步任务开始执行。(Sidekiq 进程对信号还是有反应的)

5分钟之后 sidekiq 的线程又全部处于 busy 状态,又卡住了!

猜测1:某个很耗时的任务把所有的线程都阻塞了?

Google 后找到了 Sidekiq Problems and Troubleshooting 这篇文档,里面写了两种常见的 Frozen worker 的情况:

If all your workers are "frozen" or no jobs seem to be finishing, it's possible a remote network call is pending forever. This is common in two scenarios:

  1. DNS lookup - resolving a hostname might hang. This has a serious side effect in MRI of locking up everything because of the way MRI uses DNS by default. The solution is to run require 'resolv-replace' in your initializer, which installs a pure Ruby DNS resolver that works concurrently.

  2. Net::HTTP - unresponsive remote servers can cause a Net::HTTP call to hang and lock up your workers. Set open_timeout to ensure your code raises an exception rather than hanging forever.

看完了文档,我立马就想到了代码中的问题。

class XiaomiUserProjectNotifier
  include Sidekiq::Worker
  sidekiq_options retry: 3

  def perform(project_id)

    # 此处忽略一些业务代码

    begin
      res = RestClient.post url, params
    rescue => err
      raise err
    ensure

    # 此处忽略一些业务代码
  end
end

我使用 RestClient 调用了小米的接口,但这个接口不太稳定。当小米的接口没有响应时,Sidekiq 线程就在那傻傻的等待,几分钟...几个小时...几天...

最终,所有的线程都因为这个问题沦陷了(16 of 16 busy)

解决方法

知道问题,解决起来就简单了。

把 Restclient 超时时间设定为 10秒,发布上线,这个问题就解决了。

class XiaomiUserProjectNotifier
  include Sidekiq::Worker
  sidekiq_options retry: 3

  def perform(project_id)

    # 此处忽略一些业务代码

    begin
      res = RestClient::Request.execute(
        :method => :post,
        :url => url,
        :payload => params,
        :timeout => 10,
        :open_timeout => 10
      )
    rescue => err
      raise err
    ensure

    # 此处忽略一些业务代码
  end
end

总结

异步任务中调用外部接口时,一定要加超时,否则 Sidekiq 有被冻住的风险。

共收到 13 条回复

写完本文,我还有个疑惑:

  • Rails 有没有 require 'resolv-replace'?

  • 需要在 sidekiq 中 require 'resolv-replace' 吗?

调用支付宝接口,不但要 timeout,还要 retry。

#1楼 @xiaoronglv

多线程都需要注意一些 C Extensions 的 GIL block 住整个进程。

这文章,好!

看来是针对小米用户发送的 mi push信息啊。

绝世好文👍

IO 请求都是需要设置超时时间的

看完也提了个醒,以前做多线程也经常遇到进程被挂住了怪线程不稳定,应该设置超时 :plus1:

#1楼 @xiaoronglv 这里可以不考虑resolv-replace 问题了,因为: https://github.com/mperham/sidekiq/blob/master/Changes.md#2160

#7楼 @huacnlee IO操作确实也是个值得注意的地方,本文所提问题应该也是如此。我有个好奇的地方,

假如 出现问题的原因是上述提到的第一点:

DNS lookup - resolving a hostname might hang. This has a serious side effect in MRI of locking up everything because of the way MRI uses DNS by default. The solution is to run require 'resolv-replace' in your initializer, which installs a pure Ruby DNS resolver that works concurrently.

那即使 1 of 16 busy, 整个sidekiq也都全挂了,不能再接任务了?

===============

刚和同时讨论了一下,并经过测试,写了一篇博客.

#1楼 @xiaoronglv 我猜第一种情况应该已经不会发生了

2.16.1 (sidekiq changelog)
Revert usage of resolv-replace. MRI's native DNS lookup releases the GIL.

我遇到过文档处理被挂住的情况。不是网络,只能另外搞timeout。

今天又看了一遍这个文章,请问 用resque 多进程, 会不会遇到像sidekiq 这样的问题

需要 登录 后方可回复, 如果你还没有账号请点击这里 注册