目前应用的情况如下：
- API 接口每天要接受大约 1.4 亿次请求
- 目前 web 服务器由三台 8 核 16GB 的服务器做负载均衡
- mysql 数据库放在 8 核 16GB 的单台服务器上
目前 web 服务器的负载一直维持 1 以上，如目前：Load average: 1.46 1.07 1.06
puma 配置：
workers 8
threads 16,32
Linux 4.4.0-109-generic (ruby1) 03/07/2018 _x86_64_ (8 CPU)
08:08:00 AM CPU %user %nice %system %iowait %steal %idle
08:08:01 AM all 26.99 0.00 5.67 0.00 0.00 67.34
08:08:02 AM all 22.92 0.00 4.41 0.00 0.00 72.67
08:08:03 AM all 15.17 0.00 2.40 0.00 0.00 82.43
08:08:04 AM all 20.65 0.00 3.78 0.00 0.00 75.57
08:08:05 AM all 9.34 0.00 2.02 0.13 0.00 88.51
08:08:06 AM all 10.37 0.00 1.77 0.00 0.00 87.86
08:08:07 AM all 10.81 0.00 1.65 0.00 0.00 87.53
08:08:08 AM all 7.38 0.00 2.75 0.00 0.00 89.88
08:08:09 AM all 8.35 0.00 1.87 0.00 0.00 89.78
08:08:10 AM all 9.80 0.00 1.63 0.00 0.00 88.57
08:08:11 AM all 9.42 0.00 1.63 0.00 0.00 88.94
08:08:12 AM all 8.59 0.00 1.26 0.00 0.00 90.15
08:08:13 AM all 12.61 0.00 2.52 0.00 0.00 84.87
08:08:14 AM all 18.72 0.00 3.14 0.00 0.00 78.14
08:08:15 AM all 9.71 0.00 1.26 0.00 0.00 89.03
08:08:16 AM all 8.79 0.00 1.88 0.00 0.00 89.32
08:08:17 AM all 10.43 0.00 1.13 0.00 0.00 88.44
API 已经做过缓存优化，请问这种情况除了继续加服务器，还有没有其他优化思路和方向？
southwolf
回复
一言不合就换语言的态度，哪怕用来 Go 改写结果也一样
先要分析好资源耗费在哪里
你 3 台，撑 1 亿多动态请求/天（约 1000 QPS，或者更高峰值），已经很不错了！
讲真，三台撑这么多 确实已经不错了。况且你的负载才 1，暂时应该没必要追求更高的优化吧。如果你的接口逻辑不负杂，考虑试下 openresty 不？哈哈，最后一句是调侃的
这个负载真的不高。如果是我，我会分类，1.4 亿次请求到底属于哪些 API，请求量和返回时间是多少。对于请求量大或者返回时间高的可以做优化，否则就是白费功夫。
没有监控数据，怎么谈优化呢？机器运行状态如何，是否有负载，服务请求数，请求时间，以及最大承载压力是多少有没有办法量化？
MySQL 存储用的什么盘，上 SSD 了吗？
本机通信例如应用服务器和 Nginx 之间都用 Unix Domain Socket 而不用端口，负载均衡/应用服务器/数据库都开启 BBR 和 TCP fast open
看看火焰图找瓶颈
- 基于 ruby-prof 的：ruby-prof-flamegraph , 但是 ruby-prof 需要 require 进去，本身会影响性能。但是结果基本会反映各方法的 CPU 占用率，容易找出计算密集的方法
- rbtrace 类似 strace, 不用 require 就能 sample 请求，对真机性能基本无影响，采样结果反映各方法的栈顶耗时，容易找出网络 IO 耗时长的方法
\3. 升级 Ruby 或者修改编译参数，会有一些性能改进
\4. 日志采集/sentry/newrelic 也很耗性能... 看看线程数有没有大超标
ActiveModelSerializer 或者 jbuilder 的设计都比较臃肿，都是消耗 CPU 比较大的库，可以换个快一点的。
把不要的 Rack 中间件都去掉，例如基于 token 的 API 请求就不需要 session 了
参考 https://www.tecmint.com/understand-linux-load-averages-and-monitor-performance/ 理论上 8 核要满载 loadavg 得达到 8. 1 的 loadavg 在 8 核心的机器上应该是只用了 1/8 的 cpu 时间。