提高MySQL深分页查询效率的三种方案
本篇文章给大家分享《提高MySQL深分页查询效率的三种方案》,覆盖了数据库的常见基础知识,其实一个语言的全部知识点一篇文章是不可能说完的,但希望通过这些问题,让读者对自己的掌握程度有一定的认识(B 数),从而弥补自己的不足,更好的掌握它。
开发经常遇到分页查询的需求,但是当翻页过多的时候,就会产生深分页,导致查询效率急剧下降。有没有什么办法,能解决深分页的问题呢?本文总结了三种优化方案,查询效率直接提升10倍,一起学习一下。
开发经常遇到分页查询的需求,但是当翻页过多的时候,就会产生深分页,导致查询效率急剧下降。
有没有什么办法,能解决深分页的问题呢?
本文总结了三种优化方案,查询效率直接提升10倍,一起学习一下。
1. 准备数据
先创建一张用户表,只在create_time字段上加索引:
CREATE TABLE `user` ( `id` int NOT NULL AUTO_INCREMENT COMMENT '主键', `name` varchar(255) DEFAULT NULL COMMENT '姓名', `create_time` timestamp NULL DEFAULT NULL COMMENT '创建时间', PRIMARY KEY (`id`), KEY `idx_create_time` (`create_time`) ) ENGINE=InnoDB COMMENT='用户表';
然后往用户表中插入100万条测试数据,这里可以使用存储过程:
drop PROCEDURE IF EXISTS insertData; DELIMITER $$ create procedure insertData() begin declare i int default 1; while i2. 验证深分页问题
每页10条,当我们查询第一页的时候,速度很快:
select * from user where create_time>'2022-07-03' limit 0,10;
在不到0.01秒内直接返回了,所以没显示出执行时间。
当我们翻到第10000页的时候,查询效率急剧下降:
select * from user where create_time>'2022-07-03' limit 100000,10;
执行时间变成了0.16秒,性能至少下降了几十倍。
耗时主要花在哪里了?
- 需要扫描前10条数据,数据量较大,比较耗时
- create_time是非聚簇索引,需要先查询出主键ID,再回表查询,通过主键ID查询出所有字段
画一下回表查询流程:
1. 先通过create_time查询出主键ID

2. 再通过主键ID查询出表中所有字段

别问为什么B+树的结构是这样的?问就是规定。
可以看一下前两篇文章。
然后我们就针对这两个耗时原因进行优化。
3. 优化查询
3.1 使用子查询
先用子查询查出符合条件的主键,再用主键ID做条件查出所有字段。
select * from user where id in ( select id from user where create_time>'2022-07-03' limit 100000,10 );
不过这样查询会报错,说是子查询中不支持使用limit。

我们加一层子查询嵌套,就可以了:
select * from user
where id in (
select id from (
select id from user
where create_time>'2022-07-03'
limit 100000,10
) as t
);

执行时间缩短到0.05秒,减少了0.12秒,相当于查询性能提升了3倍。
为什么先用子查询查出符合条件的主键ID,就能缩短查询时间呢?
我们用explain查看一下执行计划就明白了:
explain select * from user
where id in (
select id from (
select id from user
where create_time>'2022-07-03'
limit 100000,10
) as t
);

可以看到Extra列显示子查询中用到Using index,表示用到了覆盖索引,所以子查询无需回表查询,加快了查询效率。
3.2 使用inner join关联查询
把子查询的结果当成一张临时表,然后和原表进行关联查询。
select * from user
inner join (
select id from user
where create_time>'2022-07-03'
limit 100000,10
) as t on user.id=t.id;

查询性能跟使用子查询一样。
3.3 使用分页游标(推荐)
实现方式就是:当我们查询第二页的时候,把第一页的查询结果放到第二页的查询条件中。
例如:首先查询第一页
select * from user where create_time>'2022-07-03' limit 10;
然后查询第二页,把第一页的查询结果放到第二页查询条件中:
select * from user where create_time>'2022-07-03' and id>10 limit 10;
这样相当于每次都是查询第一页,也就不存在深分页的问题了,推荐使用。

执行耗时是0秒,查询性能直接提升了几十倍。
这样的查询方式虽然好用,但是又带来一个问题,就是跳转到指定页数,只能一页页向下翻。
所以这种查询只适合特定场景,比如资讯类APP的首页。
互联网APP一般采用瀑布流的形式,比如百度首页、头条首页,都是一直向下滑动翻页,并没有跳转到制定页数的需求。
不信的话,可以看一下,这是头条的瀑布流:

传参中带了上一页的查询结果。

响应数据中,返回了下一页查询条件。
所以这种查询方式的应用场景还是挺广的,赶快用起来吧。
知识点总结:

本篇关于《提高MySQL深分页查询效率的三种方案》的介绍就到此结束啦,但是学无止境,想要了解学习更多关于数据库的相关知识,请关注golang学习网公众号!
一文了解MySQL事务隔离级别
- 上一篇
- 一文了解MySQL事务隔离级别
- 下一篇
- MySQL报错1040'Too many connections'的原因以及解决方案
-
- 敏感的鸵鸟
- 这篇文章内容真及时,太全面了,赞 ??,码住,关注up主了!希望up主能多写数据库相关的文章。
- 2023-03-25 15:38:12
-
- 专一的树叶
- 赞 ??,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,看完之后很有帮助,总算是懂了,感谢老哥分享技术文章!
- 2023-02-10 18:49:14
-
- 安静的机器猫
- 这篇技术文章出现的刚刚好,太全面了,太给力了,已加入收藏夹了,关注up主了!希望up主能多写数据库相关的文章。
- 2023-01-28 16:28:44
-
- 激情的眼神
- 这篇技术文章真是及时雨啊,太详细了,感谢大佬分享,码住,关注楼主了!希望楼主能多写数据库相关的文章。
- 2023-01-24 07:21:01
-
- 疯狂的网络
- 好细啊,码住,感谢up主的这篇文章内容,我会继续支持!
- 2023-01-16 19:58:45
-
- 愉快的外套
- 这篇博文真及时,作者加油!
- 2023-01-16 05:34:02
-
- 欢呼的黑裤
- 太给力了,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,帮助很大,总算是懂了,感谢up主分享文章内容!
- 2023-01-11 12:27:26
-
- 动听的钢笔
- 这篇文章真及时,太详细了,很好,mark,关注老哥了!希望老哥能多写数据库相关的文章。
- 2023-01-10 05:13:27
-
- 花痴的烤鸡
- 太全面了,mark,感谢老哥的这篇文章内容,我会继续支持!
- 2023-01-05 20:37:33
-
- 虚心的篮球
- 很棒,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,帮助很大,总算是懂了,感谢博主分享博文!
- 2023-01-05 15:27:05
-
- 追寻的犀牛
- 这篇文章太及时了,作者加油!
- 2023-01-05 06:50:13
-
- 炙热的自行车
- 感谢大佬分享,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,帮助很大,总算是懂了,感谢大佬分享博文!
- 2022-12-30 23:03:10
-
- 数据库 · MySQL | 6小时前 | 连接池 · 故障排查 · MySQL教程 · mysql 连接池 wait_timeout database/sql SetConnMaxIdleTime SetConnMaxLifetime 空闲连接 PingContext
- MySQL 连接池空闲连接失效 怎样处理
- 350浏览 收藏
-
- 数据库 · MySQL | 6小时前 | MySQL · 数据库 · csv · 数据导入 · CSV导入 MySQL LOAD DATA LOAD DATA LOCAL INFILE MySQL批量导入
- MySQL LOAD DATA 读取 CSV 怎样处理
- 307浏览 收藏
-
- 数据库 · MySQL | 6小时前 |
- MySQL 复制延迟区分线程 怎样处理
- 141浏览 收藏
-
- 数据库 · MySQL | 6小时前 |
- MySQL INTERSECT 怎样合并两组去重结果
- 358浏览 收藏
-
- 数据库 · MySQL | 6小时前 |
- MySQL COERCIBILITY 怎样判断表达式使用哪个排序规则
- 361浏览 收藏
-
- 数据库 · MySQL | 6小时前 |
- MySQL JSON 查询数组对象 怎样处理
- 467浏览 收藏
-
- 数据库 · MySQL | 6小时前 |
- MySQL 联合索引没有命中 怎样处理
- 415浏览 收藏
-
- 数据库 · MySQL | 6小时前 | MySQL · 执行计划 · sql优化 · mysql explain ANALYZE TABLE
- MySQL EXPLAIN 看行数偏差 怎样处理
- 437浏览 收藏
-
- 数据库 · MySQL | 6小时前 |
- MySQL CTE 拆分复杂查询 怎样处理
- 413浏览 收藏
-
- 数据库 · MySQL | 6小时前 | MySQL · JSON · 故障排查 · mysql JSON数组 JSON_TABLE NESTED PATH SQL排查
- MySQL JSON_TABLE 嵌套数组为空时为什么还会返回一行
- 437浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- PubMedQA
- 深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
- 587次使用
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 624次使用
-
- LMArena
- LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
- 659次使用
-
- HELM
- 深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
- 627次使用
-
- MMBench
- MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
- 442次使用
-
- Go语言Goroutinue和管道效率详解
- 2022-12-29 341浏览
-
- GoFrame框架缓存查询结果的示例详解
- 2022-12-23 231浏览
-
- Go 在 MongoDB 中常用查询与修改的操作
- 2023-01-07 451浏览
-
- Golang 正则匹配效率详解
- 2022-12-24 387浏览
-
- go语言实现接口查询
- 2023-01-07 230浏览



