mysql异常案例分析
哈喽!今天心血来潮给大家带来了《mysql异常案例分析》,想必大家应该对数据库都不陌生吧,那么阅读本文就都不会很困难,以下内容主要涉及到MySQL、数据库、性能优化、SQL语句、查询优化,若是你正在学习数据库,千万别错过这篇文章~希望能帮助到你!
问题背景
mysql主从同步
1、结构:主库业务数据增删改查,从库是负责报表的查询
2、问题:主从异常导致报表数据不准确,上线期间,出现多次,发现时同步已经中断很长时间。
3、解决:脚本自动监控+短信提醒,及时发现异常,人工干预恢复。
mysql查询效率
问题:系统上线运行后,随着数据的不断增长,可能一些语句执行会越来越慢。
解决方向:借助mysql EXPLAIN 排查sql语句。进行针对性修改。
mysql连接数增长异常
1、问题:4月底多次出现知识库mysql连接被占满,导致系统故障。
不是瞬间,隔几天会出现一次。
2、排查:死锁、连接未关闭(接口平台groovy脚本)、show processlist
3、解决:根据排查,优化代码及jdbc连接数配置,解决故障。
代码执行效率
排查:借助Fiddler(http协议调试代理工具),查找执行慢的代码。
解决:优化代码结构,解决问题。

mysql主从同步
监控脚本
监测内容:
1、检查主机IP及端口是否一致
2、检查主从mysql-bin文件是否一致
3、检查主从日志文件位置Position是否一致
4、检查slave_IO_running和slave_sql_running两个线程是否启动【重要】
异常短信发送:使用curl -d 参数 请求连接 (发送短信内容及号码)
人工干预

1、通过sql查询导致同步异常的数据 select * from performance_schema.replication_applier_status_by_worker\G
2、步骤1会查出具体哪张表的问题数据,修改查询出来的异常数据
3、跳过异常步骤 set global sql_slave_skip_counter =1;
4、重新启动同步操作 start slave;
5、查询同步状态是否正常 show slave status\G
mysql连接数异常
监控脚本
监测内容:
1、查询mysql进程,select * from infomation_schema.processlist
Id: 就是这个线程的唯一标识\User: 启动线程的用户\Host: 记录了发送请求的客户端的 IP 和 端口号\DB: 数据库名称\Command: 是指此刻该线程正在执行的命令\Time: 表示该线程处于当前状态的时间(秒)\State: 线程的状态\Info: 记录线程执行的语句。默认只显示前100个字符.
2、查询锁表信息:show open tables where in_use> 0;
3、当连接数超出阈值时,短信提醒,并且抓取1和2的实时结果,定位问题连接。
排查优化
排查:
1、select * from infomation_schema.processlist及锁表信息查询出耗时进程,包含3个:A、sleep进程;
B、km_search_log; C、km_task_sheet 及sys_task_type 。
2、排查A:检查jdbc配置,db.druid.timeBetweenEvictionRunsMillis=60000,db.druid.initialSize=5,60秒关闭空闲连接,B语句耗时长、C语句执行间隔短于执行时长,造成一直在创建新的连接,初始化连接比较小,sleep连接不能回收。
优化--现在正常情况是在30-40之间
1、调整初始化连接至30,减少连接的新建次数,空出回收空闲连接的时间。
2、梳理登录业务,屏蔽km_search_log查询,效果明显
3、反馈信息提醒业务(km_task_sheet 及sys_task_type),原20秒执行一次,调整频率为两分钟,减少语句进程一直叠加。
mysql查询效率-EXPLAIN
EXPLAIN查询结果字段解释
id :编号,id值越大执行优先级越高,id值相同则从上往下执行,id为null最后执行。
select_type :查询类型
table :表名
partitions :分区
type :类型,type常见类型从最优到最差:system > const > eq_ref > ref > range > index > ALL,
possible_keys :预测用到的索引
key :实际使用的索引,如果没有为null。根据这个字段判断是否需要增加索引。
key_len :实际使用索引的长度,
ref :表之间的引用
rows :通过索引查询到的数据量
filtered :指返回结果的行占需要读到的行(rows列的值)的百分比。
Extra :额外的信息
1、Using index
2、Using where
3、Using where Using index
4、NULL
5、Using index condition
6、Using temporary表示MySql需要创建一张临时表来处理查询。一般需要优化
mysql查询效率-案例分析
1、关联表字段类型不一致,导致索引失效
描述:原因是his_phs_send的phs_id和csp_contact的call_id字段类型不一致,导致索引失效
排查过程:
EXPLAIN 查看语句分析结果,d表Extra提示未使用索引,key值使用索引项为空,type为ALL,效率最慢,数据超600W。缩减语句至his_phs_send和csp_contact关联,索引还未执行,定位至d.call_id未走索引,排查原因,phs_id为bigint类型,call_id为varchar类型,修改phs_id为varchar,语句执行时间由9秒多减少至0.3秒。

2、减少关联出来的数据量

3、对应字段增加索引
4、减少语句中的子查询
多个子查询拼接的sql语句,索引不会生效
代码执行效率-Fiddler





mysql恢复delete数据
1、日志查找delete删除语句
mysqlbinlog --no-defaults --database=cspwcsdb --start-datetime="2019-01-11 08:20:09" --stop-datetime="2019-01-11 10:00:50" --base64-output=decode-rows -v -v mysql-bin.000022 | sed -n '/### DELETE FROM /,/COMMIT/p' > cspwcsdb20190111-3.txt
2、转换delete语句为insert语句
cat cspwcsdb20190111-3.txt | sed -n '/###/p' | sed 's/### //g;s//*./,/g;s/DELETE FROM/INSERT INTO/g;s/WHERE/SELECT/g;' | sed -r 's/(@4.),/\1;/g' | sed 's/@[1-9]=//g' > t1.sql
3、替换;和其余@10之后的@序号,生成需要执行的insert语句
备注:此方式只恢复过少量数据,大批量数据没有使用过。当时生成的文件未保存,大家可以测试下,看下生成的文件内容。
总结
本次分享主要涵盖了mysql同步异常监控、恢复、sql性能优化、代码优化工具及delete数据恢复,在现场实施使用率较高。
执行效率的提升,直接提升用户感知。
- mysql 主从同步的监控
- show processlist讲解
- mysql EXPLAIN分析
- 抓包工具fiddler分享
- mysql恢复delete数据
今天关于《mysql异常案例分析》的内容就介绍到这里了,是不是学起来一目了然!想要了解更多关于mysql的内容请关注golang学习网公众号!
-
- 要减肥的冰淇淋
- 太给力了,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,帮助很大,总算是懂了,感谢作者分享技术贴!
- 2023-02-19 03:45:23
-
- 体贴的世界
- 这篇技术文章真是及时雨啊,细节满满,很棒,收藏了,关注师傅了!希望师傅能多写数据库相关的文章。
- 2023-02-18 14:05:11
-
- 明亮的康乃馨
- 这篇技术文章太及时了,up主加油!
- 2023-02-17 21:05:36
-
- 动人的吐司
- 很详细,已收藏,感谢作者的这篇技术贴,我会继续支持!
- 2023-02-17 18:11:58
-
- 数据库 · MySQL | 50分钟前 |
- MySQLcount优化技巧及性能提升方法
- 371浏览 收藏
-
- 数据库 · MySQL | 1小时前 |
- MySQLUPDATE替换字段值方法详解
- 292浏览 收藏
-
- 数据库 · MySQL | 3小时前 |
- MySQL基础:增删改查全教程
- 356浏览 收藏
-
- 数据库 · MySQL | 4小时前 |
- MySQL建表语法详解与实例教程
- 498浏览 收藏
-
- 数据库 · MySQL | 5小时前 |
- MySQL中文界面设置方法详解
- 356浏览 收藏
-
- 数据库 · MySQL | 14小时前 |
- MySQL安装后如何启动和连接
- 233浏览 收藏
-
- 数据库 · MySQL | 16小时前 |
- MySQL中WHERE与HAVING的区别详解
- 259浏览 收藏
-
- 数据库 · MySQL | 19小时前 |
- MySQL数据备份方法与策略详解
- 112浏览 收藏
-
- 数据库 · MySQL | 21小时前 |
- MySQL中HAVING和WHERE的区别
- 363浏览 收藏
-
- 数据库 · MySQL | 21小时前 |
- MySQL数据归档方法与工具推荐
- 372浏览 收藏
-
- 数据库 · MySQL | 1天前 |
- MySQL排序优化与性能提升技巧
- 236浏览 收藏
-
- 数据库 · MySQL | 1天前 |
- MySQL缓存优化与参数调优技巧
- 107浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 511次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 498次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 484次学习
-
- 千音漫语
- 千音漫语,北京熠声科技倾力打造的智能声音创作助手,提供AI配音、音视频翻译、语音识别、声音克隆等强大功能,助力有声书制作、视频创作、教育培训等领域,官网:https://qianyin123.com
- 86次使用
-
- MiniWork
- MiniWork是一款智能高效的AI工具平台,专为提升工作与学习效率而设计。整合文本处理、图像生成、营销策划及运营管理等多元AI工具,提供精准智能解决方案,让复杂工作简单高效。
- 82次使用
-
- NoCode
- NoCode (nocode.cn)是领先的无代码开发平台,通过拖放、AI对话等简单操作,助您快速创建各类应用、网站与管理系统。无需编程知识,轻松实现个人生活、商业经营、企业管理多场景需求,大幅降低开发门槛,高效低成本。
- 94次使用
-
- 达医智影
- 达医智影,阿里巴巴达摩院医疗AI创新力作。全球率先利用平扫CT实现“一扫多筛”,仅一次CT扫描即可高效识别多种癌症、急症及慢病,为疾病早期发现提供智能、精准的AI影像早筛解决方案。
- 88次使用
-
- 智慧芽Eureka
- 智慧芽Eureka,专为技术创新打造的AI Agent平台。深度理解专利、研发、生物医药、材料、科创等复杂场景,通过专家级AI Agent精准执行任务,智能化工作流解放70%生产力,让您专注核心创新。
- 87次使用
-
- golang MySQL实现对数据库表存储获取操作示例
- 2022-12-22 499浏览
-
- 搞一个自娱自乐的博客(二) 架构搭建
- 2023-02-16 244浏览
-
- B-Tree、B+Tree以及B-link Tree
- 2023-01-19 235浏览
-
- mysql面试题
- 2023-01-17 157浏览
-
- MySQL数据表简单查询
- 2023-01-10 101浏览