记一次线上SQL索引优化及索引选择错误原理分析
在数据库实战开发的过程中,我们经常会遇到一些这样那样的问题,然后要卡好半天,等问题解决了才发现原来一些细节知识点还是没有掌握好。今天golang学习网就整理分享《记一次线上SQL索引优化及索引选择错误原理分析》,聊聊MySQL、索引、运维,希望可以帮助到正在努力赚钱的你。
前两天同事负责的订单模块查询出现了一个奇怪的问题,当加入筛选条件后会出现查询超时的问题,查询全部订单的时候没有问题,SQL如下(数据已脱敏,使用的是MySql):
SELECT
a.consumer_code AS orderCode,
a.rent_equipment_snid AS eqSn,
a.powerbank_snid AS pbSn,
a.rent_merchant_name AS rentMerchant,
a.rent_merchant_address AS merchantAddress,
a.rent_date AS rentTime,
a.close_date AS returnTime,
a.payment_money AS orderAmount,
a.order_status AS orderStatus,
a.consume_schema AS consumeSchema,
a.transaction_status AS transStatus,
a.rent_equipment_model AS eqModel
FROM
cp_consumer_order_2020_10 a
WHERE
a.agent_code = xxxx
# 下面两个条件就是筛选时才会加上
AND a.order_status = xxx
AND a.close_date IS NULL
ORDER BY
a.consumer_code desccp_consumer_order_2020_10是订单月表,差不多有1000多万数据,consumer_code是主键,agent_code 上有普通索引。
我拿到上面的SQL在数据库执行发现是走了agent_code索引的,并且查询效率也是正常的,然后删掉了筛选条件,执行结果也是一样。


上面分别是带条件和不带条件的执行计划,可以看到没有什么区别。这时我猜想是不是代码中有什么耗时的操作:

这个代码看起来也没有什么特别耗时的操作,getAgentOrderList就是执行那条SQL,getAgentStaffOrderList也试过查询很快,因为有分页,下面的for循环执行也不会特别慢。
难不成又出现“灵异事件”了?这时我突然想到会不会是分页导致的,我们都知道limit在offset非常大的情况下会导致查询慢,但我们这里还没有翻页,也就是第一页,所以不是这个问题。
除此之外我又想到之前看到过limit和order by连用会出现索引选择错误的问题,于是我在带上limit 0,30在数据库执行刚刚的SQL,果不其然,慢SQL出现了。这时我再看执行计划如下:
可以看到这时候Mysql使用了主键索引,即我们排序的字段,于是我建议同事用force index强制走普通索引,查询就恢复正常了。
到这里,SQL优化就结束了,但是为什么加上limit就会导致Mysql选错索引呢,而且为什么走主键索引就很慢呢,预估扫描行数明明更少了呀?本着“知其然还要知其所以然”的原则我查阅了很多资料,都没有完全能解决心中的疑惑,最终自己反复尝试,总算搞明白了。
首先为什么走普通索引更快,而主键索引更慢?
因为我这条SQL是查询主键索引倒序结果,索引天然有序,不用排序了,所以看到执行计划里面的Extra字段没有了Using filesort,这里比普通索引快,但是这条SQL是有where条件筛选的,那么在拿到有序结果后,还需要逐条取出agent_code和where条件进行匹配。看到这里相信读者应该基本明白了,如果没有limit,那么这条SQL会出现全表扫描;而这里有limit 0,30,就会出现下面的情况:一是和where条件匹配的30条记录刚好是排序后的前30条,那么mysql就只需要扫描30条;如果不足30条或者匹配的记录都在排序的末尾,也会全表扫描。而使用普通索引agent_code没有这个问题,是因为筛选条件就是agent_code,可以很快的进行匹配。
为什么加了limit就会使用主键索引?
因为不加limit的时候如果使用主键索引,就会如上所说挨个匹配where条件,但此时没有限制返回的条数,就会进行全表扫描(可以用force index(primary)+explain看到row是表总行数(1000w条)),Mysql就认为使用普通索引更快,因为普通索引预估扫描行数只有不到1.8W条;但是加了limit之后走主键索引的预估扫描行数可能会少于走普通索引的预估扫描行数,导致索引选择错误。
————————————————
版权声明:本文为CSDN博主「夜勿语」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
原文链接:https://blog.csdn.net/l610800...
今天关于《记一次线上SQL索引优化及索引选择错误原理分析》的内容就介绍到这里了,是不是学起来一目了然!想要了解更多关于mysql的内容请关注golang学习网公众号!
mysql基础之七->mysql读写分离之amoeba
- 上一篇
- mysql基础之七->mysql读写分离之amoeba
- 下一篇
- mac 安装mysql及配置
-
- 虚拟的飞机
- 这篇技术贴真及时,很详细,写的不错,码住,关注作者大大了!希望作者大大能多写数据库相关的文章。
- 2023-03-18 12:14:34
-
- 深情的犀牛
- 好细啊,收藏了,感谢作者大大的这篇技术贴,我会继续支持!
- 2023-02-26 08:33:47
-
- 大方的黑夜
- 写的不错,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,看完之后很有帮助,总算是懂了,感谢老哥分享技术文章!
- 2023-02-23 12:12:32
-
- 数据库 · MySQL | 16小时前 | MySQL · DDL · InnoDB · mysql innodb ALGORITHM=INSTANT Instant DDL
- Instant DDL 表结构限制怎么配置或排查
- 486浏览 收藏
-
- 数据库 · MySQL | 18小时前 | MySQL · 字符集 · REGEXP_LIKE · Collation · mysql 中文 排序规则 utf8mb4 REGEXP_LIKE
- REGEXP_LIKE 中文排序规则怎么配置或排查
- 169浏览 收藏
-
- 数据库 · MySQL | 19小时前 | MySQL · JSON_TABLE · 嵌套数组 · JSON_TABLE MySQL JSON
- JSON_TABLE 嵌套数组怎么配置或排查
- 181浏览 收藏
-
- 数据库 · MySQL | 20小时前 | MySQL · CTE · SQL排错 · mysql cte_max_recursion_depth 递归 CTE
- 递归 CTE 终止条件怎么配置或排查
- 338浏览 收藏
-
- 数据库 · MySQL | 1天前 | MySQL · 索引 · Invisible Index ·
- Invisible Index 灰度验证怎么配置或排查
- 156浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 123次使用
-
- LMArena
- LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
- 43次使用
-
- OpenCompass
- OpenCompass是上海AI实验室推出的开源大模型评测平台,提供CompassKit、CompassHub和CompassRank三大核心组件,支持LLM及多模态模型的一站式标准化评估与排行榜查询。
- 65次使用
-
- AGI-Eval
- AGI-Eval是由上海交大等高校联合发布的大模型评测社区,提供公正透明的LLM能力榜单、多领域评测集及Data Studio数据服务,助力AI模型性能评估与NLP科研开发。
- 41次使用
-
- SuperCLUE
- SuperCLUE是权威的中文大语言模型综合评测基准,涵盖语言理解、知识应用、AI Agent智能体及安全性等12项核心能力。通过多轮对话与客观测试,定期发布榜单与技术报告,为模型研发、优化及行业选型提供科学依据。
- 277次使用
-
- MySQL 明明加了索引,为什么查询还是很慢?先查这 6 个点
- 2026-06-27 374浏览
-
- golang MySQL实现对数据库表存储获取操作示例
- 2022-12-22 499浏览
-
- golang 基于 mysql 简单实现分布式读写锁
- 2023-01-07 384浏览
-
- golang cache带索引超时缓存库实战示例
- 2022-12-31 234浏览
-
- 详解如何利用GORM实现MySQL事务
- 2023-01-07 184浏览

