MySQL数据同步至Elasticsearch的常用方式有哪些?
学习数据库要努力,但是不要急!今天的这篇文章《MySQL数据同步至Elasticsearch的常用方式有哪些?》将会介绍到等等知识点,如果你想深入学习数据库,可以关注我!我会持续更新相关文章的,希望对大家都能有所帮助!
1. 业务层同步
由于对 MySQL 数据的操作也是在业务层完成的,所以在业务层同步操作另外的数据源也是很自然的,比较常见的做法就是在 ORM 的 hooks 钩子里编写相关同步代码。
这种方式的缺点是,当服务越来越多时,同步的部分可能会过于分散从而导致难以更新迭代,例如对 ES 索引进行不兼容迁移时就可能会牵一发而动全身。
2. 中间件同步
当应用架构演变为微服务时,各个服务里可能不再直接调用 MySQL ,而是通过一层 middleware 中间件,这时候就可以在中间件操作 MySQL 的同时同步其它数据源。
这种方式需要中间件去适配,具有一定复杂度。
3. 定时任务根据 updated_at 字段同步
在 MySQL 的表结构里设置特殊的字段,如 updated_at(数据的更新时间),根据此字段,由定时任务去查询实际变更的数据,从而实现数据的增量更新。
这种方式你可以使用开源的 Logstash 去完成。
当然缺点也很明显,就是无法同步数据的删除操作。
4. 解析 binlog 同步
比如著名的 canal 。
通过伪装成 slave 去解析 MySQL 的 binary log 从而得知数据的变更。
这是一种业界比较成熟的方案。
这种方式要求你将 MySQL 的 binlog-format
设置为 ROW
模式。
5. 解析 binlog — mixed / statement 格式
MySQL 的 binlog
有三种格式:
ROW
模式,binlog 按行的方式去记录数据的变更;statement
模式,binlog 记录的是 SQL 语句;mixed
模式时,混合以上两种,记录的可能是 SQL 语句或者ROW
模式的每行变更;
某些情况下,可能你的 MySQL binlog
无法被设置为 ROW
模式,这种时候,我们仍然可以去统一解析 binlog ,从而完成同步,但是这里解析出来的当然还是原始的 SQL 语句或者 ROW
模式的每行变更,这种时候是需要我们去根据业务解析这些 SQL 或者每行变更,比如利用正则匹配或者 AST 抽象语法树等,然后根据解析的结果再进行数据的同步。
这种方式的限制也很明显,一是需要自己适配业务解析 SQL ,二是批量更新这种场景可能很难处理,当然如果你的数据都是简单的根据主键进行修改或者删除则能比较好的适用。
以上就是本文的全部内容了,是否有顺利帮助你解决问题?若是能给你带来学习上的帮助,请大家多多支持golang学习网!更多关于数据库的相关知识,也可关注golang学习网公众号。

- 上一篇
- 如何使用Zabbix监控多个MySQL实例?

- 下一篇
- 2022 年 iPad Air 将于 3 月上市,我们来看看有哪些有趣的信息。
-
- 数据库 · MySQL | 7小时前 |
- MySQL新手必学基础命令操作指令大全
- 224浏览 收藏
-
- 数据库 · MySQL | 7小时前 |
- 从零开始学mysql,数据库操作实用教程
- 249浏览 收藏
-
- 数据库 · MySQL | 7小时前 |
- 快速搞定mysql核心概念及基本操作
- 134浏览 收藏
-
- 数据库 · MySQL | 7小时前 |
- MySQL事务详解:特性及作用解析
- 207浏览 收藏
-
- 数据库 · MySQL | 10小时前 | mysql 数据库管理 性能优化 CREATEDATABASE USE命令
- use命令进入MySQL数据库:实用教程
- 421浏览 收藏
-
- 数据库 · MySQL | 10小时前 |
- MySQL中英文混合输入中文乱码解决方案
- 166浏览 收藏
-
- 数据库 · MySQL | 13小时前 |
- MySQL中AS关键字的别名功能详解
- 165浏览 收藏
-
- 数据库 · MySQL | 15小时前 |
- MySQL替换值攻略:UPDATE语句详解
- 213浏览 收藏
-
- 数据库 · MySQL | 16小时前 |
- MySQL增删改查命令速查手册
- 436浏览 收藏
-
- 数据库 · MySQL | 17小时前 |
- MySQL主键详解:定义及功能解析
- 145浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 508次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 497次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 484次学习
-
- 魔匠AI
- SEO摘要魔匠AI专注于高质量AI学术写作,已稳定运行6年。提供无限改稿、选题优化、大纲生成、多语言支持、真实参考文献、数据图表生成、查重降重等全流程服务,确保论文质量与隐私安全。适用于专科、本科、硕士学生及研究者,满足多语言学术需求。
- 24次使用
-
- PPTFake答辩PPT生成器
- PPTFake答辩PPT生成器,专为答辩准备设计,极致高效生成PPT与自述稿。智能解析内容,提供多样模板,数据可视化,贴心配套服务,灵活自主编辑,降低制作门槛,适用于各类答辩场景。
- 38次使用
-
- Lovart
- SEO摘要探索Lovart AI,这款专注于设计领域的AI智能体,通过多模态模型集成和智能任务拆解,实现全链路设计自动化。无论是品牌全案设计、广告与视频制作,还是文创内容创作,Lovart AI都能满足您的需求,提升设计效率,降低成本。
- 53次使用
-
- 美图AI抠图
- 美图AI抠图,依托CVPR 2024竞赛亚军技术,提供顶尖的图像处理解决方案。适用于证件照、商品、毛发等多场景,支持批量处理,3秒出图,零PS基础也能轻松操作,满足个人与商业需求。
- 49次使用
-
- PetGPT
- SEO摘要PetGPT 是一款基于 Python 和 PyQt 开发的智能桌面宠物程序,集成了 OpenAI 的 GPT 模型,提供上下文感知对话和主动聊天功能。用户可高度自定义宠物的外观和行为,支持插件热更新和二次开发。适用于需要陪伴和效率辅助的办公族、学生及 AI 技术爱好者。
- 48次使用
-
- MySQL主从切换的超详细步骤
- 2023-01-01 501浏览
-
- Mysql-普通索引的 change buffer
- 2023-01-25 501浏览
-
- MySQL高级进阶sql语句总结大全
- 2022-12-31 501浏览
-
- Mysql报错:message from server: * is blocked because of many
- 2023-02-24 501浏览
-
- 腾讯云大佬亲码“redis深度笔记”,不讲一句废话,全是精华
- 2023-02-22 501浏览