Jade Dungeon

MySQL监控

mysql常用监控方法

查看sql查询耗时

sql查询耗时通过日志来记录，配置文件为：/etc/mysql/my.cnf

# 记录查询时间的日志位置
log_slow_queries = /var/log/mysql/mysql-slow.log
# 时间越过一秒的查询才记录到日志中
long_query_time = 1

查看连接占用

只要观测到mysql端口占的连接就可以了：

# 显示到mysql的连接
netstat -atn | grep 3306
 
# 统计连接数量
netstat -atn | grep 3306
 
# 盯着看数量
while true; do sleep 1; netstat -atn | grep -c :8080; done

最后那句可以用：

watch -n1 "netstat -atn | grep -c :8080"

从进程角度监控Mysql查询过程

The progress indicator of MySQL or MariaDB long-running commands and queries is extremely extremely and frustratingly coarse. In an index update I'm running now it was stuck in the same state for more than three hours.

Thankfully, the pmonitor tool allows us to precisely monitor the progress of many commands. Here's an example of its application on MariaDB.

Adding an index on a GHTorrent table with 6 billion records seemed to take forever, stuck in the “Enabling keys” state.

MariaDB [ghtorrent]> alter table project_commits
> add unique index(commit_id, project_id);
Stage: 2 of 2 'Enabling keys'      0% of stage done

Looking at the MariaDB process list wasn't much more helpful.

MariaDB [ghtorrent]> show processlist\G
*************************** 1. row ***************************
      Id: 857
    User: ghtorrent
    Host: localhost
      db: ghtorrent
 Command: Query
    Time: 15383
   State: Repair by sorting
    Info: alter table project_commits add unique index(commit_id, project_id)
Progress: 50.000
*************************** 2. row ***************************
      Id: 859
    User: ghtorrent
    Host: localhost
      db: ghtorrent
 Command: Query
    Time: 0
   State: Init
    Info: show processlist
Progress: 0.000
2 rows in set (0.000 sec)

To get a better picture I simply run pmonitor with the following arguments:

-c and the name of the MariaDB server
-u to specify that I was also interested in files opened in update mode
-i 10 to iterate the reporting every ten seconds
-d to see files whose ETA (estimated time of arrival) differed from one iteration to the next

This gave me a very accurate running picture of the command's progress.

$ sudo pmonitor -c mysqld -u -i 5 -d
/dev/null       0%
/home/mysql/aria_log.00000001   100%
/home/mysql/tc.log      100%
/home/mysql/mysql/servers.MYI   38.67%
/home/mysql/mysql/user.MYD      100%
[94 lines removed]
/home/mysql/ghtorrent/#sql-54b9_359.MYI 0.00%
/home/mysql     0%
/home/mysql/ghtorrent/#sql-54b9_359.MYD 43.12% ETA 0:27:52
/home/mysql/ghtorrent/#sql-54b9_359.MYD 43.45% ETA 0:27:59
/home/mysql/ghtorrent/#sql-54b9_359.MYD 43.80% ETA 0:28:23
/home/mysql/ghtorrent/#sql-54b9_359.MYD 44.14% ETA 0:28:02
/home/mysql/ghtorrent/#sql-54b9_359.MYD 44.47% ETA 0:27:48
/home/mysql/ghtorrent/#sql-54b9_359.MYD 44.83% ETA 0:27:17
...

MYSQL 内置监控信息

本次文章完全使用 mysql 自带的 show 命令实现获取，在单体下达到最快速、方便、损耗最小。

mysql 数据库的监控支持通过 SQL 方式从performance_schema库中访问对应的表数据，前提是初始化此库并开启监控数据写入。
在选择监控工具对 mysql 监控时，需要关注监控工具本身对于数据库服务器的消耗，不要影响到其自身的使用。

连接数（Connects）

最大使用连接数：

SHOW STATUS LIKE 'Max_used_connections'

当前打开的连接数：

SHOW STATUS LIKE 'Threads_connected'

缓存（bufferCache）

未从缓冲池读取的次数：

SHOW STATUS LIKE 'Innodb_buffer_pool_reads'

从缓冲池读取的次数：

SHOW STATUS LIKE 'Innodb_buffer_pool_read_requests'

缓冲池的总页数：

SHOW STATUS LIKE 'Innodb_buffer_pool_pages_total'

缓冲池空闲的页数：

SHOW STATUS LIKE 'Innodb_buffer_pool_pages_free'

缓存命中率计算：

(1 - (Innodb_buffer_pool_reads / Innodb_buffer_pool_read_requests)) * 100%

缓存池使用率为：

((Innodb_buffer_pool_pages_total - Innodb_buffer_pool_pages_free) / Innodb_buffer_pool_pages_total) * 100%

锁（lock）

锁等待个数：

SHOW STATUS LIKE 'Innodb_row_lock_waits'

平均每次锁等待时间：

SHOW STATUS LIKE 'Innodb_row_lock_time_avg'

查看是否存在表锁：

show open TABLES where in_use > 0; -- 有数据代表存在锁表，空为无表锁

备注：锁等待统计得数量为累加数据，每次获取得时候可以跟之前得数据进行相减，得到当前统计得数据

SQL

查看 mysql 开关是否打开：

SHOW VARIABLES LIKE 'slow_query_log'

ON为开启状态，如果为OFF，则用以下命令开启：

SET GLOBAL slow_query_log = 1

查看 mysql 阈值：

SHOW VARIABLES LIKE 'long_query_time'

根据页面传递阈值参数，修改阈值

SET GLOBAL long_query_time = 0.1

查看 mysql 慢 sql 目录：

SHOW VARIABLES LIKE 'slow_query_log_file'

格式化慢 sql 日志，不是sql命令，是命令行工具：

mysqldumpslow -s at -t 10 /export/data/mysql/log/slow.log

参数： -t指定耗时最长的 10 个 SQL 语句执行信息
输出格式：执行次数、平均执行时间、SQL 语句

备注：当 mysqldumpslow 命令执行失败时，将慢日志同步到本地进行格式化处理。

statement

insert 数量：

SHOW STATUS LIKE 'Com_insert'

delete 数量：

SHOW STATUS LIKE 'Com_delete'

update 数量：

SHOW STATUS LIKE 'Com_update'

select 数量：

SHOW STATUS LIKE 'Com_select'

吞吐（Database throughputs）

发送吞吐量：

SHOW STATUS LIKE 'Bytes_sent'

接收吞吐量：

SHOW STATUS LIKE 'Bytes_received'

总吞吐量：

Bytes_sent + Bytes_received

数据库参数（serverconfig）

show variables

慢 SQL

慢 SQL 指的是 MySQL 慢查询，具体指运行时间超过long_query_time值的 SQL。我们常听 MySQL 中有二进制日志 binlog、中继日志 relaylog、重做回滚日志 redolog、undolog 等。针对慢查询，还有一种慢查询日志 slowlog，用来记录在 MySQL 中响应时间超过阀值的语句。

慢 SQL 对实际生产业务影响是致命的，所以测试人员在性能测试过程中，对数据库 SQL 语句执行情况实施监控，给开发提供准确的性能优化意见显得尤为重要。那怎么使用 Mysql 数据库提供的慢查询日志来监控 SQL 语句执行情况，找到消耗较高的 SQL 语句，以下详细说明一下慢查询日志的使用步骤：

确保打开慢 SQL 开关 slow_query_log

确保打开慢 SQL 开关slow_query_log

SHOW VARIABLES LIKE 'slow_query_log'

ON为开启状态，如果为OFF，则用以下命令开启：

SET GLOBAL slow_query_log = 1

设置慢 SQL 域值

设置慢 SQL 域值long_query_time，这个long_query_time是用来定义慢于多少秒的才算「慢查询」，注意单位是秒。

执行 sql 指令set long_query_time = 1来设置执行时间超过 1 秒的都算慢查询，如下：

SHOW VARIABLES LIKE 'long_query_time'

根据页面传递阈值参数，修改阈值

SET GLOBAL long_query_time = 0.1

查看慢 SQL 日志路径

通过慢 sql 分析工具 mysqldumpslow 格式化分析慢 SQL 日志。 mysqldumpslow 慢查询分析工具，是 mysql 安装后自带的，可以通过以下命令查看使用参数说明：

./mysqldumpslow —help

常见用法：

取出使用最多的 10 条慢查询

./mysqldumpslow -s c -t 10 /export/data/mysql/log/slow.log

取出查询时间最慢的 3 条慢查询

./mysqldumpslow -s t -t  3 /export/data/mysql/log/slow.log

注意：使用 mysqldumpslow 的分析结果不会显示具体完整的 sql 语句，只会显示 sql 的组成结构。

例如：

SELECT FROM sms_send WHERE service_id=10 GROUP BY content LIMIT 0, 1000;

以上命令执行后显示：

Count: 2 Time=1.5s (3s) Lock=0.00s (0s) Rows=1000.0 (2000), 
vgos_dba[vgos_dba]@[10.130.229.196]
SELECT FROM sms_send WHERE service_id=N GROUP BY content LIMIT N, N

Count：表示该类型的语句执行次数，上图中表示 select 语句执行了 2 次。
Time：表示该类型的语句执行的平均时间（总计时间）
Lock：锁时间 0s。
Rows：单次返回的结果数是 1000 条记录，2 次总共返回 2000 条记录。

通过这个工具就可以查询出来哪些 sql 语句是慢 SQL，从而反馈研发进行优化，比如加索引，该应用的实现方式等。

常见慢 SQL 排查

不使用子查询

SELECT FROM t1 WHERE id (SELECT id FROM t2 WHERE name='hechunyang');

子查询在 MySQL5.5 版本里，内部执行计划器是这样执行的：先查外表再匹配内表，而不是先查内表 t2，当外表的数据很大时，查询速度会非常慢。

在 MariaDB10/MySQL5.6 版本里，采用 join 关联方式对其进行了优化，这条 SQL 会自动转换为：

SELECT t1. FROM t1 JOIN t2 ON t1.id = t2.id;

但请注意的是：优化只针对 SELECT 有效，对 UPDATE/DELETE 子查询无效，生产环境尽量应避免使用子查询。

避免函数索引

SELECT FROM t WHERE YEAR(d) >= 2016;

由于 MySQL 不像 Oracle 那样支持函数索引，即使d字段有索引，也会直接全表扫描。

应改为：

SELECT FROM t WHERE d >= '2016-01-01';

用 IN 来替换 OR 低效查询

慢查询：

SELECT FROM t WHERE LOC_ID = 10 OR LOC_ID = 20 OR LOC_ID = 30;

高效查询：

SELECT FROM t WHERE LOC_IN IN (10,20,30);

LIKE 双百分号无法使用到索引

SELECT FROM t WHERE name LIKE '%de%';

使用

SELECT FROM t WHERE name LIKE 'de%';

分组统计可以禁止排序

SELECT goods_id, count() FROM t GROUP BY goods_id;

默认情况下，MySQL 对所有GROUP BY col1，col2…的字段进行排序。如果查询包括GROUP BY，想要避免排序结果的消耗，则可以指定ORDER BY NULL禁止排序。使用：

SELECT goods_id, count() FROM t GROUP BY goods_id ORDER BY NULL;

禁止不必要的 ORDER BY 排序

SELECT count(1) FROM user u 
LEFT JOIN user_info i ON u.id = i.user_id 
WHERE 1 = 1 
ORDER BY u.create_time DESC;

使用：

SELECT count (1) FROM user u 
LEFT JOIN user_info i ON u.id = i.user_id;