mysql的数据压缩性能对比详情
本篇文章给大家分享《mysql的数据压缩性能对比详情》,覆盖了数据库的常见基础知识,其实一个语言的全部知识点一篇文章是不可能说完的,但希望通过这些问题,让读者对自己的掌握程度有一定的认识(B 数),从而弥补自己的不足,更好的掌握它。
数据魔方需要的数据,一旦写入就很少或者根本不会更新。这种数据非常适合压缩以降低磁盘占用。MySQL本身提供了两种压缩方式――archive引擎以及针对MyISAM引擎的myisampack方式。今天对这两种方式分别进行了测试,对比了二者在磁盘占用以及查询性能方面各自的优劣。至于为什么做这个,你们应该懂的,我后文还会介绍。且看正文:
1. 测试环境
1.1 软硬件
一台 64位 2.6.18-92 内核Linux开发机,4G内存,4个2800Mhz Dual-Core AMD Opteron(tm) Processor 2220 CPU。
MySQL放在一块7200转SAT硬盘,未做raid;
MySQL未做任何优化, 关闭了query cache ,目的在于避免query cache对测试结果造成干扰。
1.2 表结构
2424753条记录,生产环境某一个分片的实际数据;
分别建立了(partition_by1,idx_rank) 和 (partition_by1,chg_idx)的联合索引,其中 partition_by1为32长度的varchar类型 ,用于检索;其余两个字段均为浮点数,多用于排序;
autokid作为子增列,充当PRIMARY KEY,仅作为数据装载时原子性保证用,无实际意义。
2. 测试目的
2.1 压缩空间对比
压缩率越大,占用的磁盘空间越小,直接降低数据的存储成本;
2.2 查询性能对比
压缩后查询性能不应该有显著降低。Archive是不支持索引的,因此性能降低是必然的,那么我们也应该心里有个谱,到底降低了多少,能不能接受。
3. 测试工具
3.1 mysqlslap
官方的工具当然是不二之选。关于mysqlslap的介绍请参考 官方文档 。
3.2 测试query
截取生产环境访问topranks_v3表的实际SQL共9973条,从中抽取访问量较大的7条,并发50,重复执行10次。命令如下:
./mysqlslap --defaults-file=../etc/my.cnf -u**** -p**** -c50 -i10 -q ../t.sql --debug-info
4.测试结论
| 比较项 | 磁盘空间 | 耗时(秒) | CPU Idle | LOAD | 并发 |
| 基准表(MyISAM) | 403956004 | 2.308 | 30 | 15 | 50 |
| ARCHIVE | 75630745 | >300 | 75 | 4 | 1 |
| PACK | 99302109 | 2.596 | 30 | 22 | 50 |
根据上面的表格给出的测试数据,我们简单得出以下结论:
- 针对测试表,
Archive表占用空间约为之前的18.7%,myisampack后空间占用约为之前的24.6%;二者相差不多,单纯从空间利用情况来看,我们似乎需要选择archive表; - 我们再看查询性能,与基准表进行对比。无论在总耗时还是系统负载方面,50并发下的
pack表查询性能与基准表相当; 而archive表在单并发情况下耗时超过了5分钟 (实在等不了了,kill之)!
那么,我们似乎可以得出结论,针对需要在线查询的表,ARCHIVE引擎基本上可以不考虑了。
为什么这个测试过程中ARCHIVE引擎如此地慢呢?
我们知道,mysql提供archive这种存储引擎是为了降低磁盘开销,但还有一个前提,那就是被归档的数据不需要或者很少被在线查询,偶尔的查询慢一些也是没关系的。鉴于上述原因,archive表是不允许建立自增列之外的索引的。
有了这个共识,我们拿一条测试SQL来分析一下不用索引前后的查询性能差别为什么这么大。
在我们的测试SQL中有这么一条:
SELECT c1,c2,...,cn FROM mysqlslap.rpt_topranks_v3 WHERE ... AND partition_by1 = '50008090' ORDER BY added_quantity3 DESC LIMIT 500
我们前边说过,测试的这个表在partition_by1这个字段上建立了索引,那么,我们初步判断在基准表和myisampack表上,这个查询应该用到了partition_by1的索引; EXPLAIN 一下:
mysql> EXPLAIN
-> SELECT ... FROM mysqlslap.rpt_topranks_v3
-> WHERE ... AND partition_by1 = '50008090'
-> ORDER BY added_quantity3 DESC
-> LIMIT 500\G
*************************** 1. row ***************************
id: 1
select_type: SIMPLE
TABLE: rpt_topranks_v3
type: ref
possible_keys: idx_toprank_pid,idx_toprank_chg
KEY: idx_toprank_pid
key_len: 99
ref: const
rows: 2477
Extra: USING WHERE; USING filesort
1 row IN SET (0.00 sec)
正如我们所料,这个查询用到了建立在partition_by1这个字段上的索引,匹配的目标行数为2477,然后还有一个在added_quantity3字段上的排序。由于added_quantity3没有索引,所以用到了filesort。
我们再看一下这条SQL在归档表上的 EXPLAIN 结果:
mysql> EXPLAIN
-> SELECT ... FROM mysqlslap.rpt_topranks_v3_archive
-> WHERE ... AND partition_by1 = '50008090'
-> ORDER BY added_quantity3 DESC
-> LIMIT 500\G
*************************** 1. row ***************************
id: 1
select_type: SIMPLE
TABLE: rpt_topranks_v3_archive
type: ALL
possible_keys: NULL
KEY: NULL
key_len: NULL
ref: NULL
rows: 2424753
Extra: USING WHERE; USING filesort
1 row IN SET (0.00 sec)
EXPLAIN 说:“我没有索引可用,所以只能全表扫描2424753行记录,然后再来个filesort。”你要追求性能,那显然是委屈MySQL了。
终于介绍完啦!小伙伴们,这篇关于《mysql的数据压缩性能对比详情》的介绍应该让你收获多多了吧!欢迎大家收藏或分享给更多需要学习的朋友吧~golang学习网公众号也会发布数据库相关知识,快来关注吧!
mysql索引过长Specialed key was too long的解决方法
- 上一篇
- mysql索引过长Specialed key was too long的解决方法
- 下一篇
- Mysql数据库手动及定时备份步骤
-
- 玩命的台灯
- 这篇博文出现的刚刚好,太详细了,写的不错,已收藏,关注师傅了!希望师傅能多写数据库相关的文章。
- 2023-02-14 06:29:01
-
- 结实的鱼
- 很有用,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,看完之后很有帮助,总算是懂了,感谢老哥分享文章!
- 2023-02-08 17:12:26
-
- 欢呼的手机
- 这篇博文真是及时雨啊,太全面了,感谢大佬分享,码起来,关注大佬了!希望大佬能多写数据库相关的文章。
- 2023-01-25 12:18:02
-
- 数据库 · MySQL | 1小时前 |
- MySQL utf8mb4 排序规则不一致时怎么处理连接报错
- 101浏览 收藏
-
- 数据库 · MySQL | 2小时前 | MySQL · 分区 · 数据保留 · mysql 分区表 历史数据清理 RANGE COLUMNS
- MySQL 分区表怎么按日期清理历史数据
- 327浏览 收藏
-
- 数据库 · MySQL | 4小时前 |
- MySQL 事务里 SKIP LOCKED 为什么会跳过未提交任务
- 209浏览 收藏
-
- 数据库 · MySQL | 5小时前 |
- MySQL invisible index 怎么验证索引删除前的影响
- 263浏览 收藏
-
- 数据库 · MySQL | 6小时前 | MySQL · 数据库 · 查询排错 · 递归CTE · mysql WITH RECURSIVE cte_max_recursion_depth CTE 递归查询
- MySQL CTE 递归查询怎么限制层数避免无限展开
- 165浏览 收藏
-
- 数据库 · MySQL | 13小时前 | MySQL · 性能优化 · 执行计划 · mysql 执行计划 慢查询 EXPLAIN ANALYZE
- MySQL EXPLAIN ANALYZE 怎么判断实际行数偏差
- 389浏览 收藏
-
- 数据库 · MySQL | 14小时前 |
- MySQL 窗口函数排序并列时怎么只保留一条结果
- 109浏览 收藏
-
- 数据库 · MySQL | 1天前 | MySQL · SQL · GROUP_CONCAT · mysql group_concat group_concat_max_len
- MySQL GROUP_CONCAT 结果被截断怎么处理
- 470浏览 收藏
-
- 数据库 · MySQL | 1天前 | MySQL · 任务队列 · SKIP LOCKED · 并发消费 ·
- MySQL 多个消费者怎么用 SKIP LOCKED 领取任务
- 184浏览 收藏
-
- 数据库 · MySQL | 1天前 | MySQL · 索引优化 · generated-column · mysql 索引 生成列 计算字段
- MySQL 怎么用生成列保存可索引的计算结果
- 297浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- SuperCLUE
- SuperCLUE是权威的中文大语言模型综合评测基准,涵盖语言理解、知识应用、AI Agent智能体及安全性等12项核心能力。通过多轮对话与客观测试,定期发布榜单与技术报告,为模型研发、优化及行业选型提供科学依据。
- 172次使用
-
- C-Eval
- 深入了解C-Eval中文评估套件,涵盖52个学科与4级难度。本文详解其功能特点、Zero-shot/Few-shot使用方法及代码示例,助您全面评测LLM中文理解与泛化能力。
- 102次使用
-
- AI Prompt Library
- 探索AI Prompt Library免费资源库,涵盖营销、写作及多场景AI提示词。兼容ChatGPT、Claude等工具,一键复制优化输出,提升工作效率。
- 25次使用
-
- LangGPT
- LangGPT是一种受编程语言启发的结构化提示词设计工具,提供双层框架、模块化模板及变量功能,帮助用户高效编写高质量Prompt。该项目已在GitHub免费开源,适用于内容创作、编程辅助等多场景。
- 35次使用
-
- ClickPrompt
- ClickPrompt是一款专为AI提示词编写者设计的开源在线工具,支持Stable Diffusion绘图、ChatGPT对话及GitHub Copilot代码辅助。提供Prompt自动生成、一键运行、社区分享及可视化优化功能,帮助用户高效获取精准AI输出。
- 74次使用
-
- golang 对象深拷贝的常见方式及性能
- 2022-12-28 262浏览
-
- Go标准库http与fasthttp服务端性能对比场景分析
- 2022-12-31 206浏览
-
- Golang压缩Jpeg图片和PNG图片的操作
- 2022-12-29 407浏览
-
- golang利用pprof与go-torch如何做性能分析
- 2023-01-01 182浏览
-
- golang中snappy的使用场合实例详解
- 2022-12-30 421浏览

