【案例回顾】春节一次较波折的MySQL调优
来到golang学习网的大家,相信都是编程学习爱好者,希望在这里学习数据库相关编程知识。下面本篇文章就来带大家聊聊《【案例回顾】春节一次较波折的MySQL调优》,介绍一下MySQL、索引、优化、MySQL优化、rds,希望对大家的知识积累有所帮助,助力实战开发!
春节长假某日,阳光明媚,春暖花开,恰逢冬奥会开幕,想着一定是一个黄道吉日,必能顺风顺水。没想到却遇到一个有点小波折的客户报障。
故障起因
故障起因是客户前一天从自建 MySQL 迁移到云上 RDS,在执行某个并发较高的业务时出现了大量锁等待,客户当时升级了实例到最高规格,但故障依旧。客户反馈升级后的实例规格比自建实例高了一倍,自建实例上从未发生过类似情况。后客户根据当时的业务故障模拟了现场,主要是并发执行如下存储过程的时候性能很差:

初步诊断
从存储过程的逻辑看,比较简单,主要涉及两个 SQL,一个从表 t(隐藏了真实表名)中 meeting_id 根据传入参数值查询,具体的入参由字符型变量 p_meeting_id 带入;另外一个根据 meeting_id 和刚查出的 phone_id 去更新 t 中的 phone_id 为 phone_id+3。表 t 数据量约 40w 左右。
第一感觉这是个简单问题,估计两个 SQL 的 meeting_id 索引没有生效,查询表上索引后果然发现 meeting_id 和 phone_id 上没有索引,建议客户在两个字段上分别创建了索引,且 meeting_id 为主键。此时用户执行模拟的并发脚本反馈速度有了明显提升,200 个并发最高执行时间 40s 左右,但模拟 500 个并发的时候,超过了 8 分钟还没有执行完。用户反馈在自建 MySQL 上并发 500 执行都是秒级完成。此时在控制台看,这个存储过程在慢查询日志中批量出现,且扫描行数巨大,客户端已经完全 hang 住:

进一步优化
虽然优化有了初步的效果, 但距离客户自建环境性能描述还差距很大,由于并发高, 从监控看测试期间 CPU 到了 100%,怀疑参数 innodb_thread_concurrency 的设置可能不当。此参数的作用是控制 InnoDB 的并发线程上限。也就是说,一旦并发线程数达到这个值,InnoDB 在接收到新请求的时候,就会进入等待状态,直到有线程退出。RDS 默认值为 0,也就是没有限制上限,在高并发的场景下可能会产生较多的上下文切换,导致 CPU 升高。和客户咨询了一下,他们自建环境的值设置为 32,建议他们将 RDS 的值也改为 32 再看看效果。客户很快反馈,修改后的确有效果,500 个并发在 3 分钟内完成,没有再发生 hang 住不动的情况,性能有了进一步的提升。但参数 innodb_thread_concurrency 进一步调整效果不明显。
加 trace 诊断
客户看到性能不断提升也很有信心,但和自建环境差距还是很大,还有哪里可能有问题?突然想到,创建索引后,在控制台的慢查询列表中看到很多存储过程的调用 sql,且扫描记录数巨大,如果是走 meeting_id 唯一索引,应该扫描很少的记录数才对,难道没有走索引?或者没有走 meeting_id 主键索引?联系客户,希望提供测试环境登陆测试。
在测试环境,首先希望验证一下两个 SQL 的执行计划到底是怎么样的。登陆实例后,分别对两个存储过程中的 SQL 执行 explain,发现走的确实是主键(meeting_id):

为了进一步确认 SQL 在存储过程中的实际执行计划,修改了一下测试的存储过程逻辑,加入了 SQL 执行的 explain 结果和实际执行的 trace,过程中主要增加的代码如下:

执行计划结果如下:

从结果看,两个 SQL 居然真的没有走主键 meeting_id 索引,而是都走了 phone_id 这个普通的二级索引,其中第一个查询 SQL 走的索引全扫描,扫描记录数 rows 为 397399,和表的记录数一致,显然走了全索引扫描,虽然比全表扫描好一些,但效率仍然低下;另外一个 update 的 SQL 走了正常的索引扫描,rows 只有 2,性能高效。为什么两个 SQL 没有走 meeting_id 这个主键索引呢?看 trace 打印的部分内容:

trace 显示两个 SQL 在优化器分析时,将 meeting_id 做了隐式转换,转换函数为 convert ('meeting_id' using utf8mb4),也就是将 meeting_id 做了字符集的转换,熟悉索引机制的同学都清楚,这种情况下优化器是不会走 meeting_id 索引的。这也可以解释了客户第一次创建索引的时候为啥有性能提升,但效果并不明显,原因就是只有 update 语句真正用到了索引带来的性能提升,而且是 phone_id 索引带来的提升,不是性能更高的主键 meeting_id。
真相大白
现在聚焦到最关键的问题,meeting_id 为啥要做字符集的隐式转换?查看了一下实例相关字符集的设置:
表和列的字符集都为 utf8;
表所在库的字符集为 utf8mb4;
server 字符集((character_set_server))为 utf8
character_set_client/character_set_connection/character_set_results 为 utf8mb4
果然,server、database、table 的字符集不完全一致,猜想一下实际流程应该是这样的:存储过程中传入的字符参数字符集为 utf8mb4,和表中字符集为 utf8 的字段 meeting_id 比较时,meeting_id 做了字符集的隐式转换,转换为 utf8mb4 后再和输入参数比较,从而导致 meeting_id 上的索引无法使用。
根据这个猜测,建议用户将表的字符集更改为 utf8mb4,这样应该可以避免字符集的转换。由于这个功能还未上线,用户直接对 表做了字符集的修改:
alter table zm_meeting convert to character set utf8mb4;
修改后让用户再次测试,预期效果终于出现,并发 500 测试在秒级完成,trace 查看执行计划,都走了 meeting_id 的主键索引,隐式转换也随之消失,性能问题得到了彻底解决。
后续思考
存储过程的入参为啥使用了 utf8mb4?这是本次案例的核心,查阅 mysql 文档,存储过程介绍里面有一段描述:

简单说,就是存储过程的字符型参数,如果没有显式指定字符集,默认将会使用所在数据库的字符集,而本案例中表所在的数据库字符集为 utf8mb4,所以参数默认使用了 utf8mb4,导致了匹配过程的隐式转换。存储过程外直接写 SQL 为什么没有这种情况发生,我猜测比较的字符串应该会自动匹配‘=’左边表字段的字符集。
既然这样,理论上直接修改参数的字符集应该也可以达到同样结果,简单测试下,将存储过程参数加上表上的字符集属性:
CREATE PROCEDURE
zm_sp_next_phone_id(IN
p_meeting_idVARCHAR(36) character set utf8)
测试结果如我们预期,不会产生隐式转换,执行计划正确。
问题虽然解决了,原因也找到了,但反思一下整个过程,如果用户的 server、库、表字符集能够保持一致,将完全可以避免这个故障。与字符集相关的类似故障也可以大概率避免,所以客户侧还是要有一定的设计规范;产品侧如果有一定的检查规则可以帮客户发现类似的隐患,对提升客户体验也是一种很有价值的服务。
作者:翟振兴
终于介绍完啦!小伙伴们,这篇关于《【案例回顾】春节一次较波折的MySQL调优》的介绍应该让你收获多多了吧!欢迎大家收藏或分享给更多需要学习的朋友吧~golang学习网公众号也会发布数据库相关知识,快来关注吧!
宏杉科技加入阿里云PolarDB开源数据库社区
- 上一篇
- 宏杉科技加入阿里云PolarDB开源数据库社区
- 下一篇
- MySQL入门:手把教你安装并创建数据库
-
- 数据库 · MySQL | 1小时前 | MySQL · 事务 · mysql insert RETURNING AUTO_INCREMENT ON DUPLICATE KEY UPDATE LAST_INSERT_ID
- MySQL INSERT ... RETURNING 怎样读取写入后的行
- 410浏览 收藏
-
- 数据库 · MySQL | 2小时前 |
- MySQL LOCK INSTANCE FOR BACKUP 怎样协调备份窗口
- 163浏览 收藏
-
- 数据库 · MySQL | 2小时前 |
- MySQL CTE 怎样写递归组织结构查询
- 164浏览 收藏
-
- 数据库 · MySQL | 2小时前 |
- MySQL JSON_OVERLAPS 怎样判断两个 JSON 是否有交集
- 341浏览 收藏
-
- 数据库 · MySQL | 2小时前 |
- MySQL JSON_SCHEMA_VALIDATION_REPORT 怎样定位校验失败字段
- 391浏览 收藏
-
- 数据库 · MySQL | 2小时前 |
- MySQL TABLE 语句怎样直接读取整张表
- 260浏览 收藏
-
- 数据库 · MySQL | 2小时前 | MySQL · 数据库 · SQL · mysql INTERSECT 集合查询 INTERSECT ALL
- MySQL INTERSECT 怎样找出两组查询的共同记录
- 323浏览 收藏
-
- 数据库 · MySQL | 2小时前 | mysql except EXCEPT ALL 集合查询
- MySQL EXCEPT 怎样排除另一查询的结果行
- 478浏览 收藏
-
- 数据库 · MySQL | 12小时前 | MySQL ·
- MySQL 外键迁移的检查开关与恢复顺序
- 318浏览 收藏
-
- 数据库 · MySQL | 21小时前 |
- MySQL 事件调度器怎样安全执行周期任务
- 159浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- PubMedQA
- 深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
- 719次使用
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 726次使用
-
- LMArena
- LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
- 801次使用
-
- HELM
- 深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
- 761次使用
-
- MMBench
- MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
- 599次使用
-
- MySQL 明明加了索引,为什么查询还是很慢?先查这 6 个点
- 2026-06-27 374浏览
-
- golang MySQL实现对数据库表存储获取操作示例
- 2022-12-22 499浏览
-
- golang 基于 mysql 简单实现分布式读写锁
- 2023-01-07 384浏览
-
- golang cache带索引超时缓存库实战示例
- 2022-12-31 234浏览
-
- 详解如何利用GORM实现MySQL事务
- 2023-01-07 184浏览

