排查mysql内存占用问题

1、innodb_buffer_pool_size

这个参数定义了buffer pool的大小,大家可能都比较熟悉,buffer pool中的内容包含innodb 表、索引、以及其他的辅助buffer,buffer pool的大小对MySQL系统性能影响比较大,默认情况下,MySQL8.0配置的buffer pool大小是128MB,通常情况下,如果是单机单实例,没有其他业务,那么MySQL官方建议配置的大小为系统内存的50%到75%之间。当然,如果你的服务器上还部署了其他的应用程序,那么你需要酌情减小这个比例,从而腾出内存。

如果你的操作系统的内存很充裕,你可以设置多个innodb buffer pool实例,可以使用下面的参数来调整这个实例的个数:

mysql> show variables like '%innodb_buffer_pool_instances%';
+------------------------------+-------+| Variable_name    | Value |+------------------------------+-------+| innodb_buffer_pool_instances | 
1  |+------------------------------+-------+1 row in set (0.00 sec)

2、innodb_log_buffer_size

这个参数定义了innodb存储引擎向磁盘上写redo log之前,最多在内存中缓存数据的大小,默认是16MB。这个值增加之后,大的事务可以不用在事务提交之前将redo log落盘。如果你的update、delete和insert操作影响行数比较多,那么你需要考虑增大这个值。

重点来了:

在操作系统里面,MySQL占用的内存不仅仅是上述两个内存配置参数有关,通常情况下,我们计算MySQL占用的内存的时候,会使用下面4个值相加的方式:

1、innodb_buffer_pool_size

2、key_buffer_size (这个参数通常是myisam表占用内存的关键参数)

3、max_connections*(sort_buffer_size+read_buffer_size+binlog_cache_size) (这三个是连接级别的buffer)

4、max_connections*2MB

所以当你使用top命令看到你的MySQL占用的内存远远超过innodb_buffer_pool_size的时候,你需要考虑的另外一个关键因素是连接数是否超标了,一旦连接数过高,那么上述3、4这两部分消耗的内存将会非常多。

当然,上面列举的,是MySQL最主要占用内存的几个因素,除此之外,其他的内存消耗的地方,可以查看官方文档:https://dev.mysql.com/doc/refman/8.0/en/memory-use.html

上述文档中,还有介绍我们如何使用performance_schema来监控MySQL的内存使用,这里我提一下整个流程,详细的细节以及参数介绍请参看官方文档。

1、查看

performance_schema.setup_instruments

这张表,找到你关注的内存变量的名称(直接搜索,结果有490多条,分为好几个大类,一定记得过滤自己关注的参数)。举个例子,我们搜索memory/innodb相关参数,代表innodb存储引擎占用的内存,结果如下:

mysql> SELECT * FROM performance_schema.setup_instruments  WHERE NAME LIKE '%memory/innodb%';
+-------------------------------------------+---------+-------+-------------------+------------+---------------+| NAME          | ENABLED | TIMED | PROPERTIES  | VOLATILITY | DOCUMENTATION |+-------------------------------------------+---------+-------+-------------------+------------+---------------+|
memory/innodb/adaptive hash index   | YES  | NULL |     |   0 | NULL   ||
memory/innodb/log and page archiver  | YES  | NULL |     |   0 | NULL   ||
memory/innodb/buf_buf_pool    | YES  | NULL | global_statistics |   0 | NULL   ||
memory/innodb/buf_stat_per_index_t  | YES  | NULL |     |   0 | NULL   ||
memory/innodb/clone      | YES  | NULL |     |   0 | NULL   ||
memory/innodb/dict_stats_bg_recalc_pool_t | YES  | NULL |     |   0 | NULL   ||
memory/innodb/dict_stats_index_map_t  | YES  | NULL |     |   0 | NULL   ||
memory/innodb/dict_stats_n_diff_on_level | YES  | NULL |     |   0 | NULL   ||
memory/innodb/other      | YES  | NULL |     |   0 | NULL   ||
memory/innodb/partitioning    | YES  | NULL |     |   0 | NULL   ||
memory/innodb/row_log_buf     | YES  | NULL |     |   0 | NULL   ||
memory/innodb/row_merge_sort    | YES  | NULL |     |   0 | NULL   ||
memory/innodb/std       | YES  | NULL |     |   0 | NULL   ||
memory/innodb/trx_sys_t::rw_trx_ids  | YES  | NULL |     |   0 | NULL   ||
memory/innodb/undo::Tablespaces   | YES  | NULL |     |   0 | NULL   ||
memory/innodb/ut_lock_free_hash_t   | YES  | NULL |     |   0 | NULL   ||
memory/innodb/api0api      | YES  | NULL |     |   0 | NULL   ||
memory/innodb/api0misc     | YES  | NULL |     |   0 | NULL   ||
memory/innodb/btr0btr      | YES  | NULL |     |   0 | NULL   |

2、在配置文件中写上相关的参数,开启统计,以memory/innodb/row_log_buf为例,配置文件修改的如下:

performance-schema-instrument='memory/innodb/row_log_buf=COUNTED'

3、启动实例,并在performance_schema数据库的memory_summary_global_by_event_name表中查看内存统计结果。

SELECT * FROM performance_schema.memory_summary_global_by_event_name WHERE EVENT_NAME LIKE 'memory/innodb/row_log_buf'\G

当然,你还可以根据sys表中的结果,查看每个大类的聚合结果,如下:

mysql> SELECT SUBSTRING_INDEX(event_name,'/',2) AS  code_area, FORMAT_BYTES(SUM(current_alloc))  AS current_alloc  FROM sys.x$memory_global_by_current_bytes  GROUP BY SUBSTRING_INDEX(event_name,'/',2)  ORDER BY SUM(current_alloc) DESC;
+---------------------------+---------------+| code_area     | current_alloc |+---------------------------+---------------+| memory/innodb    | 843.24 MiB || memory/performance_schema | 81.29 MiB  || 

memory/mysys    | 8.20 MiB  || 
memory/sql    | 2.47 MiB  || 
memory/memory    | 174.01 KiB || 
memory/myisam    | 46.53 KiB  || 
memory/blackhole   | 512 bytes  || 
memory/federated   | 512 bytes  || 
memory/csv    | 512 bytes  ||
memory/vio    | 496 bytes  |
+---------------------------+---------------+

更详细的信息,请参见官方文档。

© 版权声明
THE END
喜欢就支持一下吧
点赞0 分享
评论 抢沙发

请登录后发表评论