作者:code0

爱可生 DMP 团队一位不知名的 coder,充满神秘的气息…

本文来源:原创投稿

*爱可生开源社区出品,原创内容未经授权不得随意使用,转载请联系小编并注明来源。


一、起因

非 root 用户运行 MySQL,当 MySQL 配置比较高时,MySQL 运行中生效的参数值与配置的值不一样,所以具体分析一下 MySQL 是怎么调整这些参数值的。

所以这篇文章的目的是为了说明在系统资源不够的情况下,MySQL 是怎么调整者三个参数的。

二、说明

此文涉及到 3 个参数:

  • open_files_limit
  • max_connections
  • table_open_cache

这 3 个参数与系统相关的资源是最多能同时打开的文件( ulimit -n 查看)实际即文件描述符(fd)。

系统参数与文件描述符的关系 – max_connection & fd : 每一个MySQL connection都需要一个文件描述符 – table_open_cache & fd 打开一张表至少需要一个文件描述符,如打开MyISAM需要两个fd

三、MySQL 调整参数的方式

  1. 根据配置(配置的 3 个参数值或默认值)计算 request_open_files(需要的文件描述符)
  2. 获取有效的系统的限制值 effective_open_files
  3. 根据 effective_open_files 调整 request_open_files
  4. 根据调整后的 request_open_files,计算实际生效的参数值( show variables 查看到的 3 个参数值)

1、计算 request_open_files

request_open_files 有三个计算公式:

# 最大连接数+同时打开的表的最大数量+其他(各种日志等等)
limit_1= max_connections + table_cache_size * 2 + 10;

# 假设平均每个连接打开的表的数量(2-4)
# 源码中是这么写的:
# We are trying to allocate no less than  
# max_connections*5 file handles 
limit_2= max_connections * 5;

# MySQL 默认的最低值是 5000
limit_3= open_files_limit ? open_files_limit : 5000;

# 所以 open_files_limit 期待的最低 
request_open_files= max(limit_1, limit_2,limit_3);

2、计算 effective_open_files

MySQL 的思路:在有限值的的范围内 MySQL 尽量将 effective_open_files 的值设大

3、修正 request_open_files

requested_open_files= min(effective_open_files, request_open_files);

重新计算参数值

1、修正 open_files_limit

open_files_limit = effective_open_files

2、修正 max_connections

max_connections 根据 request_open_files 来做修正。

limit = requested_open_files - 10 - TABLE_OPEN_CACHE_MIN * 2;
  • 如果配置的 max_connections 值大于 limit,则将 max_connections 的值修正为 limit

  • 其他情况下 max_connections 保留配置值

3、修正 table_cache_size

table_cache_size 会根据 request_open_files 来做修正。

# MySQL table_cache_size 最小值,400
limit1 = TABLE_OPEN_CACHE_MIN 

# 根据 requested_open_files 计算
limit2 = (requested_open_files - 10 - max_connections) / 2
limit = max(limit1,limt2);
  • 如果配置的 table_cache_size 值大于limit,则将 table_cache_size 的值修正为 limit
  • 其他情况下 table_cache_size 保留配置值

四、举例

以下用例全部在非 root 用户下运行

- 系统资源不够且无法调整
# 参数设置
mysql max_connections = 1000 //ulimit -n 1024

# 生效的值
open_files_limit = 1024 max_connections = 1024 - 10 - 800 = 214 table_open_cache = ( 1024 - 10 - 214) / 2 = 400

---
- 系统资源不够可以调整
# 参数设置
mysql max_connections = 1000 //ulimit -S -n 1000 //ulimit -H -n 65535

# 生效的值
open_files_limit = 65535 max_connections = 1000 table_open_cache = ( 1024 - 10 - 214) / 2 = 400

---
- mysql 修改 open_files_limit
# 参数设置
//mysql max_connections = 1000 max_connections = 1000 //ulimit -n 65535

# 生效的值
open_files_limit = 65535 max_connections = 1000 table_open_cache = 2000 ```

五、其它

淘宝数据库内核月报中说道的相关内容:《MySQL·答疑解惑·open file limits》这篇主要讲的是,MySQL 在执行哪些操作时会执行打开文件的操作。

《MySQL·答疑解惑·open file limits》:http://mysql.taobao.org//monthly/2015/08/07/