运维 Ruby 原生日志分割已经解决多进程问题?

lgcjwt · 2018年06月01日 · 最后由 pathbox 回复于 2018年06月04日 · 2211 次阅读
本帖已被设为精华帖!

Ruby原生日志分割存在多进程问题?

今天星期一,你刚到公司,Bill就来到你的办公桌旁说:“有个本地部署的客户,希望日志分割不用logrotata,没办法,甲方有进程洁癖。”,经过商量,我决定先调研三种主流的日志分割方案(logrotata、ruby原生、log4r),然后再开始工作。

而Bill更希望我用ruby原生的日志分割,经过一番搜索,发现@huacnlee的这篇帖子

https://ruby-china.org/topics/3704

本着初生牛犊不怕虎,进一步查阅ruby的源码:logger.rb,发现问题可能在这里:
def shift_log_age
  (@shift_age-3).downto(0) do |i|
    if FileTest.exist?("#{@filename}..#{i}")
      File.rename("#{@filename}.#{i}", "#{@filename}.#{i+1}")
    end
  end
  @dev.close rescue nil
  File.rename("#{@filename}", "#{@filename}.0")
  @dev = create_logfile(@filename)
  return true
end

这里只粘出来按照日期分割的部分,多线程情况下显然会有问题。如果能改善这段代码,显然能很ruby哲学地运用ruby原生的日志分割

又本着不怕虎,我试图打开类重写这个方法来解决这个问题
 def shift_log_age
  @dev = open_logfile(@filename)
  date = Time.now.strftime("%Y%m%d")
  return true if @dev.stat.size < @shift_size
  ......
  return true
end
完成这个动作之后,我迫不及待的将代码布上服务器

设置分割大小为1M,开始用脚本开两个worker不停的写日志,发现完全没有问题。我将这个结果兴奋的告诉Bill,Bill却很淡定,甚至有些疑惑,指出了这里面几个明显的问题:

1. 存在临界域问题
2. 每次都要重新open,费力又不能解决问题

Bill的疑惑在于,这样的代码不可能解决临界域的问题,但是测试的结果却是没有问题的。Bill决定拒接我的PR,让我继续研究

至此,我已经决定放弃ruby原生日志分割,转而去研究log4r,直到我在丧气中刷完Facebook,偶然发现了这个:
https://www.slideshare.net/sonots/rubylogger-rubyconf-20131109

这个需要翻墙,为了省事,直接截图粘贴过来。感受一下作者Naotoshi Seo的兴奋之情。
再去ruby源码的github发现
https://github.com/ruby/ruby/pull/428

至此看来,ruby原生日志分割,可以完美使用了,而我的方法之所以能成功,看来完全是因为ruby日志分割原本就支持多进程了

在Bill的帮助下,发现解决这一问题的关键在于

File.open(@filename, File::WRONLY | File::APPEND) do |lock|
  lock.flock(File::LOCK_EX) # inter-process locking. will be unlocked at closing file
  if File.identical?(@filename, lock) and File.identical?(lock, @dev)
    yield # log shifting
  else
  # log shifted by another process (i-node before locking and i-node after locking are different)
    @dev.close rescue nil
    @dev = open_logfile(@filename)
    @dev.sync = true
  end
end

也就是说:在ruby-2.1.0之后的版本,日志分割都不再有多进程的问题

但是,Bill依然觉得不能乐观
1.虽然看上去已经完美支持多进程,但是调研结果发现工业上大部分仍然在用logrotata或log4r
2.没有看到有使用原生日志分割的例子,甚至没有人来声明原生日志分割已经解决了多进程问题
3.是不是任然存在一些已知的或者未知的问题,导致ruby原生日志分割依旧被大家放在角落里?

所以有关原生日志分割的问题,是否可以放心的在存在多进程的工业环境中使用,请大佬们不吝赐教

共收到 8 条回复

其实现在 Docker 化部署,以及各类其他工具的出现,这个问题似乎已经不再那么重要。

huacnlee 将本帖设为了精华贴 06月01日 23:24

在 Web 场景下使用可能不多,但是在做一些小工具时还是可能会用到

看了你这篇文章后,知道可以放心大胆的用原生切日志,心里还是爽爽的

为何不考虑基于 systemd 的方案?

logrotate 。 这样切割了,是否会自动压缩打包呢?

huacnlee 回复

感谢版主,生产环境多样化使得各种需求都存在,重点是想知道这个自带的分割有没有大神在生产环境使用过,有没有什么暗藏的坑。

IChou 回复

试试看有没有什么暗坑,欢迎分享

pathbox 回复

还有 shift_log_age 这个方法,是按照大小分割,描述有误。目前没有自动压缩打包,我也好奇为什么没有,希望了解的前辈能不吝赐教。

lgcjwt 回复

bench press 的时候可以讨论一下

需要 登录 后方可回复, 如果你还没有账号请点击这里 注册