MySQL冷备的gtid竟然还能不一致
IT行业相对于一般传统行业,发展更新速度更快,一旦停止了学习,很快就会被行业所淘汰。所以我们需要踏踏实实的不断学习,精进自己的技术,尤其是初学者。今天golang学习网给大家整理了《MySQL冷备的gtid竟然还能不一致》,聊聊MySQL,我们一起来看看吧!
本文的测试环境为mysql5.7.30
冷备
起因:自己私下做某个测试时,因为源库数据量小,而且图方便,所以打算用冷备的方式构建从库,但这里留下的一个坑是:之前的从库有数据。先描述下现象:
(1)如果停止源库mysql后,只复制data目录(不包含binlog)到从库,则从库的show master status和mysql.gtid_executed的gtid会是两库的并集,和源库不一样。
(2)如果复制data目录和log目录(包含binlog),则从库的show master status的gtid值和源库一样。
源库的gtid(在备份等操作过程中没有数据写入)

从库原有的数据(在备份等操作过程中没有数据写入)

关掉从库的mysql服务,删掉data目录,用源库的data目录替换后起库。发现3c60f36b-46ab-11ec-b485-08002704f055(源库的server_uuid)的gtid和源库保持一致,baf76130-9458-11ec-84f7-080027e4e8a5(从库的server_uuid)的gtid还是从库原来的。数据上保持和主库一致,比主库多的数据没了

从以上的测试实际上可以大致猜测和binlog有关系,在官网中查找相关信息验证:gtid_executed计算为最新二进制日志文件中Previous_gtids_log_event中的GTID、该二进制日志文件中事务的GTID以及存储在mysql.gtid_executed表中的GTID的并集。此GTID集包含服务器上已使用(或显式添加到gtid_purged)的所有GTID,无论它们当前是否位于服务器上的二进制日志文件中。它不包括服务器上当前正在处理的事务的GTID(@@GLOBAL.gtid_owned)(https://dev.mysql.com/doc/ref...)
在服务器意外停止的情况下,当前二进制日志文件中的GTID集不会保存在 mysql.gtid_executed表中。这些GTID在恢复期间从二进制日志文件添加到表中。例外情况是,如果在重新启动服务器时未启用二进制日志记录。在这种情况下,服务器无法访问二进制日志文件来恢复GTID,因此无法启动复制(https://dev.mysql.com/doc/ref...)
下面看看其他备份恢复的方法是否有什么坑。
mysqldump
如果使用mysqldump备份恢复,默认--set-gtid-purged是on,即在备份的结果集里会有SET @@GLOBAL.GTID_PURGED语句,但是该从库的该变量不是空,所以恢复时会报错@@GLOBAL.GTID_PURGED can only be set when @@GLOBAL.GTID_EXECUTED is empty,即gtid的设置失败。
Xtrabackup
这个实际上也是之前碰到的问题,和这次主题相关就一块放进来。
从库利用源库的备份恢复完成,但是一段时间后复制报主键冲突错误(只有主库可写)。查看备份日志,发现该gtid对应的事件已经复制过来了,按理说不应该再执行一遍
cat xtrabackup_binlog_info mysql-bin.000949 1011856733 7fad1986-f472-11e9-9e4f-40eedd74dfea:1-13113, 9b46f7b8-f472-11e9-9694-d0efc1ea2bf9:1-2151443844
但是从库show slave status的状态如下,Executed_Gtid_Set比xtrabackup_binlog_info小
Retrieved_Gtid_Set: 9b46f7b8-f472-11e9-9694-d0efc1ea2bf9:2150986487-2151940664 Executed_Gtid_Set: 7fad1986-f472-11e9-9e4f-40eedd74dfea:1-13113, 9b46f7b8-f472-11e9-9694-d0efc1ea2bf9:1-2150986486
怀疑是恢复过程有问题,重新执行然后查看从库的Executed_Gtid_Set还是比xtrabackup_binlog_info中小,而且查报主键错误的sql,发现这条数据已经存在。检查备份恢复的apply log和copy的日志,均无异常,排除恢复问题。所以怀疑恢复时的Executed_Gtid_Set是否不是正确的,或者说不是最新的?
网上搜索得到的相关说法:mysql.gtid_executed表使用innodb存储引擎,mysql.gtid_executed表中的数据并不是实时更新的,并且对其所有的写入不会记录binlog,也就是不会存在于redo log中。因此xtrabackup备份所得到的mysql.gtid_executed,就是copy gtid_executed.ibd时刻mysql.gtid_executed表中已有的数据。此数据与当时show master status的返回值极可能不一致(没满足写入时机),并且后续拷贝到xtrabackup_logfile文件也不会包含mysql.gtid_executed相关信息,因此apply-log不会影响mysql.gtid_executed表中的数据。如果还原实例的../logs/目录下存在binlog,在启动数据库服务时,它们会被计算到gtids_in_binlog,然后结合mysql.gtid_executed表初始化@@global.gtid_executed
官网的进一步佐证:https://dev.mysql.com/doc/ref...
解决方法,先执行reset master;然后set @@global.gtid_purged=xtrabackup_binlog_info中的gtid
总结
(1)冷备时需要把binlog一块备份然后覆盖掉从库的相关数据;
(2)在原本有数据的从库进行mysqldump恢复时需要先reset master;
(3)xtrabackup恢复时需要根据xtrabackup_binlog_info设置@@global.gtid_purged。
文中关于mysql的知识介绍,希望对你的学习有所帮助!若是受益匪浅,那就动动鼠标收藏这篇《MySQL冷备的gtid竟然还能不一致》文章吧,也可关注golang学习网公众号了解相关技术文章。
个推TechDay直播预告 | 8月24日晚19:30,实时数仓搭建保姆级教程开课
- 上一篇
- 个推TechDay直播预告 | 8月24日晚19:30,实时数仓搭建保姆级教程开课
- 下一篇
- 容器化 | 一文搞定镜像构建方式选型
-
- 积极的水蜜桃
- 这篇文章太及时了,太全面了,很棒,收藏了,关注作者大大了!希望作者大大能多写数据库相关的文章。
- 2023-03-11 10:23:26
-
- 高兴的悟空
- 太给力了,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,帮助很大,总算是懂了,感谢师傅分享博文!
- 2023-03-05 18:53:42
-
- 饱满的战斗机
- 太全面了,码起来,感谢作者大大的这篇技术贴,我会继续支持!
- 2023-01-27 00:54:54
-
- 数据库 · MySQL | 6小时前 |
- MySQL 事件调度器怎样安全执行周期任务
- 159浏览 收藏
-
- 数据库 · MySQL | 6小时前 |
- MySQL histogram 怎样辅助没有合适索引的列估算
- 386浏览 收藏
-
- 数据库 · MySQL | 6小时前 |
- MySQL 死锁日志怎样对应到具体事务
- 185浏览 收藏
-
- 数据库 · MySQL | 6小时前 | MySQL · SQL · mysql ROW_NUMBER 多表UPDATE 关联重复
- MySQL 多表 UPDATE 怎样避免关联重复更新
- 342浏览 收藏
-
- 数据库 · MySQL | 6小时前 |
- MySQL 分区表怎样确认查询命中了分区裁剪
- 347浏览 收藏
-
- 数据库 · MySQL | 6小时前 | MySQL · JSON · 数据库 · 查询优化 · mysql 索引 explain JSON json_extract 生成列 JSON_VALUE JSON_UNQUOTE
- MySQL 生成列怎样把 JSON 路径变成可索引字段
- 475浏览 收藏
-
- 数据库 · MySQL | 6小时前 |
- MySQL GROUP_CONCAT 怎样避免结果被 group_concat_max_len 截断
- 443浏览 收藏
-
- 数据库 · MySQL | 6小时前 |
- MySQL schema_index_statistics 怎样找出读取延迟最高的索引
- 372浏览 收藏
-
- 数据库 · MySQL | 6小时前 |
- MySQL 索引条件下推怎样从执行计划确认
- 188浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- PubMedQA
- 深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
- 700次使用
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 708次使用
-
- LMArena
- LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
- 781次使用
-
- HELM
- 深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
- 742次使用
-
- MMBench
- MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
- 573次使用
-
- MySQL 明明加了索引,为什么查询还是很慢?先查这 6 个点
- 2026-06-27 374浏览
-
- golang MySQL实现对数据库表存储获取操作示例
- 2022-12-22 499浏览
-
- golang 基于 mysql 简单实现分布式读写锁
- 2023-01-07 384浏览
-
- 详解如何利用GORM实现MySQL事务
- 2023-01-07 184浏览
-
- Go语言实现操作MySQL的基础知识总结
- 2023-01-23 265浏览

