MySQL中binlog备份脚本的方法
亲爱的编程学习爱好者,如果你点开了这篇文章,说明你对《MySQL中binlog备份脚本的方法》很感兴趣。本篇文章就来给大家详细解析一下,主要介绍一下MySQLBinlog、备份,希望所有认真读完的童鞋们,都有实质性的提高。
关于MySQL的二进制日志(binlog),我们都知道二进制日志(binlog)非常重要,尤其当你需要point to point灾难恢复的时侯,所以我们要对其进行备份。关于二进制日志(binlog)的备份,可以基于flush logs方式先切换binlog,然后拷贝&压缩到到远程服务器或本地服务器的其他存储上,例如挂载的NAS存储,也可以使用mysqlbinlog实现binlog的备份,可以实现MySQL二进制日志(binlog)的本地备份或远程备份。最后将MySQL二进制日志(binlog)的备份文件收到磁带。各个公司的备份策略或备份工具有所不同,这里不做展开,我们主要考虑MySQL二进制日志(binlog)备份方案/策略尽可能尽善尽美,在一些极端情况下少丢失数据。例如,第一种方式,这种备份方式都是周期性的,如果在某个周期中,遇到一些极端情况,例如服务器宕机了,硬盘损坏了,就可能导致这段时间的binlog丢失了。而且这个周期时间太长,二进制日志(binlog)丢失的风险就越大,如果这个周期太短,频繁切换binlog也不好。所以还是使用mysqlbinlog来备份二进制日志(binlog),这里主要介绍一下我写的MySQL二进制日志的备份脚本,这个脚本参考了如何远程备份MySQL binlog[1]中的脚本,但是在其基础上做了很多改进和完善:
参考资料中的脚本由于使用了循环操作,不适合在作业中调用。一般需要手工执行脚本,让其在后台运行。遇到服务器重启或其他异常情况,此脚本可能出现未能执行的情况。
增加了mysql_binlog_backup_job.sh脚本,作业会定期调用此脚本,此脚本会判断mysqlbinlog是否还在执行二进制日志备份。如果遇到了数据库服务器重启等情况,也不会担心MySQL的二进制日志(binlog)的备份停掉的问题。
不用手工指定第一个binlog文件参数,采用从数据库读取binlog的值.如果是在本地服务器执行binlog的备份,还可以从二进制日志索引文件中获取(参考脚本注释部分)
使用mysql_config_editor配置账号密码,避免在脚本中使用数据库用户的明文密码。
邮件告警处理。
在使用脚本前,必须配置mailx,创建数据库连接账号
create user bkuser@'xxx.xxx.xxx.xxx' identified by "******"; grant replication client on *.* to bkuser@'%'; grant replication slave on *.* to bkuser@'%';
这个根据实际情况调整,例如我就是使用Xtrabackup的账号来备份MySQL的binlog。 另外,如果在MySQL数据库服务器本机备份binlog,那么就在本机安全加密登录,如果是在远程服务器备份binlog的话,就在远程服务器配置
$ mysql_config_editor set --login-path=server1_dbbackup -h xxx.xxx.xxx.xxx -ubkuser -p -P 3306 Enter password:
mysql_binlog_backup_job.sh脚本
#!/bin/sh
#########################################################################################
# #
# This script is used for mysql binlog backup. #
# #
# #######################################################################################
# #
# ScriptName : mysql_binlog_backup_job.sh #
# Author : 潇湘隐者 #
# CerateDate : 2017-04-14 #
# Description : #
#---------------------------------------------------------------------------------------#
# 作业中调用此脚本,然后此脚本去调用mysql_binlog_backup.sh执行 #
# MySQL的二进制日志备份(将MySQL的二进制日志备份到NAS存储或备份存#
# 储上),此脚本还会判断mysqlbinlog是否在一直在备份二进制日志, #
# 如果是的话,则退出当前脚本。如果mysqlbinlog已经由于服务器重 #
# 启等原因退出了,则会重新调用mysql_binlog_backup.sh #
#***************************************************************************************#
# Version Modified Date Description #
#***************************************************************************************#
# V.1.0 2016-06-20 create the script for mysql binlog backp #
# V.1.1 2016-07-26 fix some bug #
# V.1.2 2023-04-14 $FIRST_BINLOG从MySQL中获取,即使远程备份也不用手工 #
# 设定,本地备份也可以这种方式,本地备份默认从 #
# mysql binlog index file读取 #
#########################################################################################
#mysql binlog备份文件的保留天数
KEEPY_DAYS=7
FIRST_BINLOG=''
LOG_DATE=$(date +%Y_%m_%d_%H_%M_%S)
BACKUP_DATE=$(date +%Y_%m_%d_%H_%M_%S)
LOCAL_BACKUP_DIR=/dbbackup/mysql_backup/db_backup/binlog_backup
#MYSQL_BINLOG_INDEX=/data/bin_logs/mysql_binlog.index
MYSQL_CMD=/opt/mysql/mysql8.0/bin/mysql
BACKUP_LOG_PATH=/dbbackup/mysql_backup/logs
ERROR_LOG=${BACKUP_LOG_PATH}/binlog_backup_error_${BACKUP_DATE}.log
FILE_TYPE="mysql_binlog.*"
SQL_TEXT='show binary logs'
MAIL_TO="xxxx@xxx.com.cn"
MAIL_FROM="xxxx@xxx.com.cn"
MYSQL_LOGIN_PATH=server1_dbbackup
error()
{
echo "$1" 1>&2
echo "$1" >> ${ERROR_LOG}
echo "$1" | mailx -s "The binlog backup on the server `hostname` failed ,please check the log!" -r ${MAIL_FROM} ${MAIL_TO}
exit 1
}
##目录不存在则创建目录
if [ ! -d $BACKUP_LOG_PATH ];then
mkdir -p $BACKUP_LOG_PATH
fi
if [ ! -x /bin/mailx ];then
error "{LOG_DATE}:mailx did not exists!"
fi
if [ ! -x $MYSQL_CMD ];then
error "{LOG_DATE}: mysql client did not exists!"
fi
#SQL_RESULT=`mysql -h${REMOTE_HOST} -P${PORT} -u${USER_NAME} -p${PASSWORD} ${DATABASE_NAME} -Bse "${SQL_TEXT}"`
SQL_RESULT=`$MYSQL_CMD --login-path=${MYSQL_LOGIN_PATH} -Bse "${SQL_TEXT}"`
FIRST_BINLOG=`echo ${SQL_RESULT} | awk '{print $1}'`
echo $FIRST_BINLOG
if [ ! $FIRST_BINLOG ];then
error "${LOG_DATE}: please check the mysql binlog"
fi
##create local_backup_dir if this folder is not exists
if [ ! -d ${LOCAL_BACKUP_DIR} ];then
mkdir -p ${LOCAL_BACKUP_DIR}
fi
if [ ! -e ${MYSQL_BINLOG_INDEX} ];then
error "${LOG_DATE}:mysql binlog index file did not exists, please check it!"
fi
#删除KEEPY_DAYS天之前的binlog备份文件
find ${LOCAL_BACKUP_DIR} -name "${FILE_TYPE}" -type f -mtime +$KEEPY_DAYS -delete
#删除30天前的错误日志
find ${BACKUP_LOG_PATH} -name "binlog_backup_error*.log" -mtime 30 -delete
process_num=$(ps -ef | grep -w mysqlbinlog | grep -v grep |wc -l)
if [ ${process_num} -ge 1 ];then
exit 1
else
#如果是在本机备份binlog到NAS存储或备份存储上,从二进制文件的索引获取当前MySQL数据库最小的binlog文件
#如果是远程备份二进制日志(binlog)的话,则使用下面注释的脚本获取
#FIRST_BINLOG=$(head -1 ${MYSQL_BINLOG_INDEX})
#FIRST_BINLOG=$(find ${LOCAL_BACKUP_DIR} -name "mysql_binlog.*" -printf "%p\t%C@\n" | sort -k2 -g |head -1 | awk '{print $1}' | awk -F "/" '{print $NF}')
echo ${FIRST_BINLOG}
nohup sh /dbbackup/mysql_backup/scripts/mysql_binlog_backup.sh ${FIRST_BINLOG} ${LOCAL_BACKUP_DIR} ${FILE_TYPE} &
fi
mysql_binlog_backup.sh脚本
#!/bin/sh
#########################################################################################
# #
# This script is used for mysql binlog local or remote backup. #
# #
# #######################################################################################
# #
# ScriptName : mysql_binlog_backup.sh #
# Author : Kerry #
# CerateDate : 2017-04-14 #
# Description : #
#---------------------------------------------------------------------------------------#
# 此脚本参考了https://www.cnblogs.com/ivictor/p/5502240.html #
# 的脚本,在它的基础上做了一些改进,例如,ivitcor中脚本备份binlog#
# 如果服务器重启了,则必须手动执行脚本....... #
#***************************************************************************************#
# Version Modified Date Description #
#***************************************************************************************#
# V.1.0 2016-06-20 create the script for mysql binlog backp #
# V.1.1 2016-07-26 fix some bug #
#########################################################################################
BACKUP_BIN=/opt/mysql/mysql8.0/bin/mysqlbinlog
BACKUP_LOG_PATH=/dbbackup/mysql_backup/logs
LOG_DATE=$(date +%Y_%m_%d_%H_%M_%S)
BACKUP_LOG=${BACKUP_LOG_PATH}/binlog_backup.log
ERROR_LOG=${BACKUP_LOG_PATH}/binlog_backup_error_${LOG_DATE}.log
#复制二进制日志的主机,可以远程MySQL数据库也可以是本机
MYSQL_LOGIN_PATH=server1_dbbackup
#time to wait before reconnecting after failure
SLEEP_SECONDS=10
MAIL_TO="xxx@xxx.com.cn"
MAIL_FROM="xxx@xxx.com.cn"
error()
{
echo "$1" 1>&2
echo "$1" >> ${ERROR_LOG}
echo "$1" | mailx -s "The binlog backup on the server `hostname` failed ,please check the log!" -r ${MAIL_FROM} ${MAIL_TO}
exit 1
}
##目录不存在则创建目录
if [ ! -d $BACKUP_LOG_PATH ];then
mkdir -p $BACKUP_LOG_PATH
fi
if [ "$#" -ne 3];then
error "${LOG_DATE}:you must input 3 arguments"
fi
if [ ! $1 ];then
error "${LOG_DATE}:first_binlog arguments is null"
else
FIRST_BINLOG=$1
fi
if [ ! $2 ];then
error "${LOG_DATE}:local_backup_dir arguments is null"
else
LOCAL_BACKUP_DIR=$2
fi
if [ ! $3 ];then
error "${LOG_DATE}:file_type arguments is null"
else
FILE_TYPE=$3
fi
##检查mysqlbinlog二进制文件是否存在
if [ ! -x ${BACKUP_BIN} ];then
error "${LOG_DATE}:mysqlbinlog did not exists, please check it!"
fi
cd ${LOCAL_BACKUP_DIR}
## 运行while循环,连接断开后等待指定时间,重新连接
while :
do
#如果当前备份二进制日志目录为空,则使用MySQL实例最小的二进制日志文件名
if [ `ls -A "${LOCAL_BACKUP_DIR}" |wc -l` -eq 0 ];then
LAST_BINLOG_FILE=${FIRST_BINLOG}
else
#LAST_FILE=`ls -l ${LOCAL_BACKUP_DIR} | grep -v backuplog |tail -n 1 |awk '{print $9}'`
#echo ${LOCAL_BACKUP_DIR}
#echo ${FILE_TYPE}
#取mysqlbinlog备份的最后一个binlog文件名
LAST_BINLOG_FILE=`find ${LOCAL_BACKUP_DIR} -name "${FILE_TYPE}" -printf "%p\t%C@\n" | sort -k2 -g |tail -1 | awk '{print $1}' | awk -F "/" '{print $NF}'`
fi
#${BACKUP_BIN} --login-path=${MYSQL_LOGIN_PATH} --read-from-remote-server --raw --stop-never --host=${REMOTE_HOST} --port=${REMOTE_PORT} ${LAST_BINLOG_FILE}
${BACKUP_BIN} --login-path=${MYSQL_LOGIN_PATH} --read-from-remote-server --raw --stop-never ${LAST_BINLOG_FILE}
echo "`date +"%Y/%m/%d %H:%M:%S"` mysqlbinlog停止,返回代码:$?" | tee -a ${BACKUP_LOG}
echo "${SLEEP_SECONDS}秒后再次连接并继续备份" | tee -a ${BACKUP_LOG}
sleep ${SLEEP_SECONDS}
done
配置作业
*/10 * * * * /dbbackup/mysql_backup/scripts/mysql_binlog_backup_job.sh >> /dbbackup/mysql_backup/logs/mysql_binlog_back.log 2>&1
参考资料
: https://www.cnblogs.com/ivictor/p/5502240.html
今天带大家了解了MySQLBinlog、备份的相关知识,希望对你有所帮助;关于数据库的技术知识我们会一点点深入介绍,欢迎大家关注golang学习网公众号,一起学习编程~
Finishedwitherror:Navicat运行SQL文件报错的解决
- 上一篇
- Finishedwitherror:Navicat运行SQL文件报错的解决
- 下一篇
- 一文详解MySQL是如何解决幻读的
-
- 数据库 · MySQL | 1小时前 | MySQL · binlog · 备份恢复 · mysql binary log 备份恢复 mysqlbinlog 二进制日志
- MySQL 备份恢复时如何验证二进制日志位置
- 216浏览 收藏
-
- 数据库 · MySQL | 2小时前 |
- MySQL LOAD DATA 导入带引号换行的 CSV 怎么设置
- 335浏览 收藏
-
- 数据库 · MySQL | 3小时前 |
- MySQL utf8mb4 排序规则不一致时怎么处理连接报错
- 101浏览 收藏
-
- 数据库 · MySQL | 4小时前 | MySQL · 分区 · 数据保留 · mysql 分区表 历史数据清理 RANGE COLUMNS
- MySQL 分区表怎么按日期清理历史数据
- 327浏览 收藏
-
- 数据库 · MySQL | 6小时前 |
- MySQL 事务里 SKIP LOCKED 为什么会跳过未提交任务
- 209浏览 收藏
-
- 数据库 · MySQL | 7小时前 |
- MySQL invisible index 怎么验证索引删除前的影响
- 263浏览 收藏
-
- 数据库 · MySQL | 8小时前 | MySQL · 数据库 · 查询排错 · 递归CTE · mysql WITH RECURSIVE cte_max_recursion_depth CTE 递归查询
- MySQL CTE 递归查询怎么限制层数避免无限展开
- 165浏览 收藏
-
- 数据库 · MySQL | 15小时前 | MySQL · 性能优化 · 执行计划 · mysql 执行计划 慢查询 EXPLAIN ANALYZE
- MySQL EXPLAIN ANALYZE 怎么判断实际行数偏差
- 389浏览 收藏
-
- 数据库 · MySQL | 16小时前 |
- MySQL 窗口函数排序并列时怎么只保留一条结果
- 109浏览 收藏
-
- 数据库 · MySQL | 1天前 | MySQL · SQL · GROUP_CONCAT · mysql group_concat group_concat_max_len
- MySQL GROUP_CONCAT 结果被截断怎么处理
- 470浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- SuperCLUE
- SuperCLUE是权威的中文大语言模型综合评测基准,涵盖语言理解、知识应用、AI Agent智能体及安全性等12项核心能力。通过多轮对话与客观测试,定期发布榜单与技术报告,为模型研发、优化及行业选型提供科学依据。
- 173次使用
-
- C-Eval
- 深入了解C-Eval中文评估套件,涵盖52个学科与4级难度。本文详解其功能特点、Zero-shot/Few-shot使用方法及代码示例,助您全面评测LLM中文理解与泛化能力。
- 102次使用
-
- AI Prompt Library
- 探索AI Prompt Library免费资源库,涵盖营销、写作及多场景AI提示词。兼容ChatGPT、Claude等工具,一键复制优化输出,提升工作效率。
- 28次使用
-
- LangGPT
- LangGPT是一种受编程语言启发的结构化提示词设计工具,提供双层框架、模块化模板及变量功能,帮助用户高效编写高质量Prompt。该项目已在GitHub免费开源,适用于内容创作、编程辅助等多场景。
- 40次使用
-
- ClickPrompt
- ClickPrompt是一款专为AI提示词编写者设计的开源在线工具,支持Stable Diffusion绘图、ChatGPT对话及GitHub Copilot代码辅助。提供Prompt自动生成、一键运行、社区分享及可视化优化功能,帮助用户高效获取精准AI输出。
- 76次使用
-
- 一文详解MySQL Binlog日志与主从复制
- 2022-12-29 436浏览
-
- CentOS7.x 安装mysql5.7 XtraBackUp备份工具使用命令详解
- 2023-01-01 140浏览
-
- Mysql如何通过binlog日志恢复数据详解
- 2022-12-30 381浏览
-
- MySQL导入与导出备份详解
- 2022-12-30 270浏览
-
- Mysql数据库手动及定时备份步骤
- 2022-12-30 485浏览
