VPS 上 MySQL 8.0 的内存暗账:buffer pool 只给了 1G,mysqld 的 RSS 却爬到 3.6G,OOM 前我抓到了这三笔

先还原现场:4G 的机器,mysqld 被内核一枪打死

一台 2C4G 的 KVM 小鸡,跑 MySQL 8.0.36,业务量不大,日增数据不到 200MB。my.cnf 里老老实实写了 innodb_buffer_pool_size = 1G,max_connections = 300,其他全默认。跑了两周,某天凌晨 ssh 直接连不上,控制台 VNC 进去发现 sshd 也被带走了。

dmesg -T | grep -iE 'oom|killed process'
# [Wed Mar 12 03:14:22 2025] Out of memory: Killed process 1187 (mysqld) total-vm:5214388kB, anon-rss:3742912kB

问题来了:buffer pool 配 1G,anon-rss 却到了 3.6G。中间那 2.6G 不是玄学,是三笔新手基本不会去算的账。这篇就是把这三笔账逐条拆开,附取证命令和一份能直接抄的 2C4G 配置。

坑零:buffer pool 自身就会被"向上取整",你设的 1.5G 可能变成 2G

这一条不算暗账,但它是所有内存估算的地基,先纠偏。InnoDB 的 buffer pool 不是按字节精确分配的,它由 chunk_size × instances 决定最小粒度,配的值会被向上取整到这个粒度的整数倍。

mysql> SHOW VARIABLES LIKE 'innodb_buffer_pool_chunk_size';   -- 默认 134217728 (128M)
mysql> SHOW VARIABLES LIKE 'innodb_buffer_pool_instances';    -- 默认:buffer pool >= 1G 时为 8,否则 1

所以默认参数下,粒度是 128M × 8 = 1G。你写 1536M,实际分配 2048M;写 1200M,实际还是 2048M。启动日志里能验尸:

2025-03-01T10:22:31.184 [Note] InnoDB: Initializing buffer pool, total size = 2G, instances = 8, chunk size = 128M

小机器上正确做法是 instances = 1 或 2,让粒度回到 128M,避免这种"凭空多出 512M"的事故。2C 的机器开 8 个 instance 也没有任何并发收益,纯属浪费。

坑一:performance_schema 不是"零成本的监控开关"

8.0 里 performance_schema 默认是 ON,而且 instruments / consumers 开得相当全。它占的内存不在 buffer pool 里,也不会体现在 SHOW VARIABLES 的任何一项上。默认配置、几十张表、几百连接的场景,这块实测落在 300MB~500MB 区间,具体取决于 max_connections、表数量和 digest 长度。

先量化,再动手

SELECT EVENT_NAME,
       ROUND(CURRENT_NUMBER_OF_BYTES_USED/1024/1024, 1) AS mb
FROM performance_schema.memory_summary_global_by_event_name
WHERE CURRENT_NUMBER_OF_BYTES_USED > 5*1024*1024
ORDER BY CURRENT_NUMBER_OF_BYTES_USED DESC
LIMIT 15;

你会看到两类大户:memory/performance_schema/table_handles 和一堆 .../events_statements_history*。前者由 performance_schema_max_table_instances 控制(默认 -1,按 table_open_cache 自动放大,小机器上非常容易被顶到上万),后者是历史表行数 × 单行宽度。

不要一关了之,要削

[mysqld]
performance_schema = ON
performance_schema_max_table_instances        = 500
performance_schema_max_sql_text_length       = 2048
performance_schema_digests_size              = 5000
performance-schema-consumer-events_waits_history      = OFF
performance-schema-consumer-events_waits_history_long = OFF
performance-schema-instrument = 'wait/io/file/% = OFF'

如果这台机器就是个跑业务的哑巴库,没有监控采集端,直接 performance_schema = OFF 最省事,重启后这 300 多 MB 立刻回来。但一定要先跑上面的 SQL 把账记下来,关掉之后就再也查不到了(虽然 sys.memory_global_total 也一起没了)。

坑二:TempTable 引擎的 1GB 默认值,一个 GROUP BY 就能引爆

这是 8.0 相比 5.7 变化最大、也最容易被忽略的一块。8.0 把内部临时表引擎换成了 TempTable,默认允许它在内存里吃到 1GB,而且这笔内存完全独立于 buffer pool,OOM 之前你是收不到任何告警的。

mysql> SHOW VARIABLES LIKE 'internal_tmp_mem_storage_engine';  -- TEMPTABLE
mysql> SHOW VARIABLES LIKE 'temptable_max_ram';                -- 1073741824
mysql> SHOW VARIABLES LIKE 'temptable_max_mmap';               -- 1073741824

temptable_max_mmap 更阴:内存超限后它会 mmap 匿名页继续扛,如果 /tmp 挂的是 tmpfs,那这部分还是内存,等于换个马甲继续吃。

抓现行

SELECT EVENT_NAME,
       ROUND(CURRENT_NUMBER_OF_BYTES_USED/1024/1024, 1) AS mb
FROM performance_schema.memory_summary_global_by_event_name
WHERE EVENT_NAME LIKE 'memory/temptable/%';

看到 memory/temptable/physical_ram 逼近 1G、同时 Created_tmp_disk_tables 还没涨,就是它了。

压到 64M,并且把 mmap 关掉

[mysqld]
internal_tmp_mem_storage_engine = TEMPTABLE
temptable_max_ram  = 67108864
temptable_max_mmap = 0

代价是复杂查询会更早落盘到 innodb_temp_data_file_path,但 4G 的机器上,慢一点总比被 OOM 杀掉强。真有大报表需求,应该把它拆到从库或者离线跑,而不是在业务主库上调大这个值。

坑三:连接栈 + 会话 buffer,max_connections 是记忆放大器

新手最常写的一行就是 max_connections = 1000,觉得"反正不连就不占"。实际上每条连接至少固定占:

  • thread_stack,8.0 默认 286720 字节(280KB),1000 连接就是 280MB,纯栈
  • 每连接的 net buffer(net_buffer_length 默认 16K,发送缓冲会动态涨到 max_allowed_packet 的 1/16 左右)
  • binlog_cache_size 32K × 每个有事务的连接

而 sort_buffer_size、join_buffer_size、read_rnd_buffer_size 这些是按需分配的——8.0 后期版本确实做了按需增长,不是一连上就全给满,这点比 5.7 友好。但"按需"不等于"不会同时发生":一次全表统计 + 大批量导入并发,几百个连接的峰值 buffer 叠起来一样能把内存顶穿。

别拿 max_connections × 全部 buffer 之和 去吓自己,但也别按"空闲连接不占内存"去想。正确做法是把峰值压下来,而不是算准它:

[mysqld]
max_connections      = 150
thread_stack         = 262144
sort_buffer_size     = 262144
join_buffer_size     = 262144
read_buffer_size     = 131072
read_rnd_buffer_size = 262144
binlog_cache_size    = 32768
tmp_table_size       = 33554432
max_heap_table_size  = 33554432

应用侧老老实实上连接池,max_connections 留 20% 给运维和复制线程足够了。150 连接撑不住的业务,问题在 SQL 或者架构,不在这个数字。

一份能直接抄的 2C4G 配置

内存预算这么分:系统 + sshd + 监控留 800MB,MySQL 上限 2.6G,剩下 600MB 当缓冲。

[mysqld]
# ---- buffer pool:1.25G,chunk 128M × instances 1,正好整除,不做任何取整浪费 ----
innodb_buffer_pool_size       = 1280M
innodb_buffer_pool_instances  = 1
innodb_buffer_pool_chunk_size = 128M

# ---- 别让 InnoDB 自己按 MemTotal 猜 ----
innodb_dedicated_server = OFF

# ---- redo ----
innodb_redo_log_capacity = 512M
innodb_log_buffer_size   = 16M

# ---- 刷盘:绕开 page cache,避免 buffer pool 被双重缓存 ----
innodb_flush_method = O_DIRECT

# ---- 临时表 ----
temptable_max_ram  = 64M
temptable_max_mmap = 0

# ---- 连接侧(同上)----
max_connections = 150

# ---- 自适应哈希:小 buffer pool 下命中率收益低,hash 表本身还占内存 ----
innodb_adaptive_hash_index = OFF

特别提醒:不要开 innodb_dedicated_server = ON。它是拿 /proc/meminfo 的 MemTotal 来算 buffer pool 的,而 VPS 的 MemTotal 是"卖给你的数",不是"你能用的数"——宿主机如果开了 virtio-balloon,实际可用内存随时会被回收。手上这批轻云互联的 KVM 机器 balloon 是关的,MemAvailable 基本可以直接信,但换到别家记得先确认这一点,否则 innodb_dedicated_server 会给你算出个 3G 的 buffer pool,开机半小时就 OOM。

把 OOM 关进 cgroup:别再让内核顺手杀掉 sshd

裸跑 mysqld 最坑的地方在于,全局 OOM 是按 oom_score 挑人的,mysqld 通常是最大目标,但 sshd、systemd-journald 被误伤的情况一点不少见。用 systemd 的 drop-in 给它套个笼子,超限时只死 MySQL,节点还在。

# /etc/systemd/system/mysqld.service.d/memory.conf
[Service]
MemoryHigh = 2400M
MemoryMax  = 2800M
OOMPolicy  = stop
stat -fc %T /sys/fs/cgroup     # 必须是 cgroup2fs,cgroup v1 下这两个参数不生效
systemctl daemon-reload && systemctl restart mysqld

MemoryHigh 是软限,超过就强制回收(会看到 memory.stat 里 pgscan 上涨,QPS 有轻微抖动);MemoryMax 是硬限,到这个数 cgroup 内部 OOM,内核只杀组内进程。这个组合比调 oom_score_adj 靠谱得多,后者只是"优先杀谁",管不住总量。

另外把 swap 策略定死:vm.swappiness = 10。VPS 的小盘 swap 一旦被 buffer pool 的冷页占满,下一次刷脏就是 200ms 级别的 IO 抖动,比直接 OOM 还难排查。

上线前用五行脚本盯住 RSS 曲线

while true; do
  ps -o rss= -p "$(pidof mysqld)" | awk '{printf "%s  %.0f MB\n", strftime("%H:%M:%S"), $1/1024}'
  sleep 10
done

再配合一轮能逼出临时表的查询,把峰值跑出来:

SELECT COUNT(DISTINCT c), COUNT(DISTINCT pad)
FROM sbtest1
GROUP BY k % 100;

调整前后各跑一次,看 RSS 是稳在 2.4G 以内还是继续往上爬。稳定了才算调完,别改完参数重启一次就宣布胜利——内存问题从来不是启动那一刻暴露的,是你半夜三点被叫起来的那一刻。