聊聊maxwell的MysqlPositionStore
来源:SegmentFault
2023-02-24 19:08:50
0浏览
收藏
在IT行业这个发展更新速度很快的行业,只有不停止的学习,才不会被行业所淘汰。如果你是数据库学习者,那么本文《聊聊maxwell的MysqlPositionStore》就很适合你!本篇内容主要包括聊聊maxwell的MysqlPositionStore,希望对大家的知识积累有所帮助,助力实战开发!
序
本文主要研究一下maxwell的MysqlPositionStore
MysqlPositionStore
maxwell-1.25.1/src/main/java/com/zendesk/maxwell/schema/MysqlPositionStore.java
public class MysqlPositionStore {
static final Logger LOGGER = LoggerFactory.getLogger(MysqlPositionStore.class);
private static final Long DEFAULT_GTID_SERVER_ID = new Long(0);
private final Long serverID;
private String clientID;
private final boolean gtidMode;
private final ConnectionPool connectionPool;
public MysqlPositionStore(ConnectionPool pool, Long serverID, String clientID, boolean gtidMode) {
this.connectionPool = pool;
this.clientID = clientID;
this.gtidMode = gtidMode;
if (gtidMode) {
// we don't use server id for position store in gtid mode
this.serverID = DEFAULT_GTID_SERVER_ID;
} else {
this.serverID = serverID;
}
}
public void set(Position newPosition) throws SQLException, DuplicateProcessException {
if ( newPosition == null )
return;
Long heartbeat = newPosition.getLastHeartbeatRead();
String sql = "INSERT INTO `positions` set "
+ "server_id = ?, "
+ "gtid_set = ?, "
+ "binlog_file = ?, "
+ "binlog_position = ?, "
+ "last_heartbeat_read = ?, "
+ "client_id = ? "
+ "ON DUPLICATE KEY UPDATE "
+ "last_heartbeat_read = ?, "
+ "gtid_set = ?, binlog_file = ?, binlog_position=?";
BinlogPosition binlogPosition = newPosition.getBinlogPosition();
connectionPool.withSQLRetry(1, (c) -> {
PreparedStatement s = c.prepareStatement(sql);
LOGGER.debug("Writing binlog position to " + c.getCatalog() + ".positions: " + newPosition + ", last heartbeat read: " + heartbeat);
s.setLong(1, serverID);
s.setString(2, binlogPosition.getGtidSetStr());
s.setString(3, binlogPosition.getFile());
s.setLong(4, binlogPosition.getOffset());
s.setLong(5, heartbeat);
s.setString(6, clientID);
s.setLong(7, heartbeat);
s.setString(8, binlogPosition.getGtidSetStr());
s.setString(9, binlogPosition.getFile());
s.setLong(10, binlogPosition.getOffset());
s.execute();
});
}
public Position get() throws SQLException {
try ( Connection c = connectionPool.getConnection() ) {
PreparedStatement s = c.prepareStatement("SELECT * from `positions` where server_id = ? and client_id = ?");
s.setLong(1, serverID);
s.setString(2, clientID);
return positionFromResultSet(s.executeQuery());
}
}
//......
}
- MysqlPositionStore提供了set、get方法,其中set方法会insert一条记录到positions表中,get方法则从positions表中取出指定server_id和client_id的position记录;其中set方法使用了connectionPool.withSQLRetry来执行sql
ConnectionPool
maxwell-1.25.1/src/main/java/com/zendesk/maxwell/util/ConnectionPool.java
public interface ConnectionPool {
@FunctionalInterface
public interface RetryableSQLFunction {
void apply(T t) throws SQLException, NoSuchElementException, DuplicateProcessException;
}
Connection getConnection() throws SQLException;
void release();
void withSQLRetry(int nTries, RetryableSQLFunction inner)
throws SQLException, NoSuchElementException, DuplicateProcessException;
}
- ConnectionPool定义了RetryableSQLFunction、getConnection、release、withSQLRetry
C3P0ConnectionPool
maxwell-1.25.1/src/main/java/com/zendesk/maxwell/util/C3P0ConnectionPool.java
public class C3P0ConnectionPool implements ConnectionPool {
private final ComboPooledDataSource cpds;
static final Logger LOGGER = LoggerFactory.getLogger(C3P0ConnectionPool.class);
@Override
public Connection getConnection() throws SQLException {
return cpds.getConnection();
}
@Override
public void release() {
cpds.close();
}
public C3P0ConnectionPool(String url, String user, String password) {
cpds = new ComboPooledDataSource();
cpds.setJdbcUrl(url);
cpds.setUser(user);
cpds.setPassword(password);
// the settings below are optional -- c3p0 can work with defaults
cpds.setMinPoolSize(1);
cpds.setMaxPoolSize(5);
}
@Override
public void withSQLRetry(int nTries, RetryableSQLFunction inner)
throws SQLException, DuplicateProcessException, NoSuchElementException {
try ( final Connection c = getConnection() ){
inner.apply(c);
return;
} catch (SQLException e) {
if ( nTries > 0 ) {
LOGGER.error("got SQL Exception: {}, {}, retrying...",
e.getLocalizedMessage(),
e.getCause().getLocalizedMessage()
);
withSQLRetry(nTries - 1, inner);
} else {
throw(e);
}
}
}
}
- C3P0ConnectionPool实现了ConnectionPool接口,其withSQLRetry接口通过RetryableSQLFunction来执行逻辑,然后捕获SQLException,在nTries大于0时递归执行withSQLRetry(nTries - 1, inner)
小结
MysqlPositionStore提供了set、get方法,其中set方法会insert一条记录到positions表中,get方法则从positions表中取出指定server_id和client_id的position记录;其中set方法使用了connectionPool.withSQLRetry来执行sql
doc
好了,本文到此结束,带大家了解了《聊聊maxwell的MysqlPositionStore》,希望本文对你有所帮助!关注golang学习网公众号,给大家分享更多数据库知识!
版本声明
本文转载于:SegmentFault 如有侵犯,请联系study_golang@163.com删除
PHP如何更新、导入Excel30W+数据到数据表
- 上一篇
- PHP如何更新、导入Excel30W+数据到数据表
- 下一篇
- nginx基础配置及反向代理配置
查看更多
最新文章
-
- 数据库 · MySQL | 1小时前 |
- MySQL invisible index 如何安全观察索引下线影响
- 300浏览 收藏
-
- 数据库 · MySQL | 2小时前 | MySQL · 索引优化 · generated column · mysql 索引 优化器 生成列
- MySQL 生成列索引为什么没有被优化器使用
- 300浏览 收藏
-
- 数据库 · MySQL | 5小时前 |
- MySQL 窗口函数取每组最新记录时如何处理并列时间
- 242浏览 收藏
-
- 数据库 · MySQL | 6小时前 |
- MySQL JSON_VALUE 返回 NULL 时怎么区分缺少路径和空值
- 170浏览 收藏
-
- 数据库 · MySQL | 7小时前 | MySQL · JSON查询 · JSON_TABLE · SQL技巧 · mysql JSON_TABLE FOR ORDINALITY JSON数组序号
- MySQL JSON_TABLE 的 FOR ORDINALITY 怎么保留数组原始序号
- 139浏览 收藏
-
- 数据库 · MySQL | 10小时前 |
- MySQL 复制延迟升高时怎么区分 SQL 线程和 IO 线程
- 304浏览 收藏
-
- 数据库 · MySQL | 12小时前 | MySQL事件 · 事件调度器 · 任务表排查 · mysql 定时任务 CREATE EVENT Event Scheduler INFORMATION_SCHEMA.EVENTS
- MySQL 事件调度器执行了但任务表没有更新怎么排查
- 486浏览 收藏
查看更多
课程推荐
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
查看更多
AI推荐
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 42次使用
-
- SuperCLUE
- SuperCLUE是权威的中文大语言模型综合评测基准,涵盖语言理解、知识应用、AI Agent智能体及安全性等12项核心能力。通过多轮对话与客观测试,定期发布榜单与技术报告,为模型研发、优化及行业选型提供科学依据。
- 196次使用
-
- C-Eval
- 深入了解C-Eval中文评估套件,涵盖52个学科与4级难度。本文详解其功能特点、Zero-shot/Few-shot使用方法及代码示例,助您全面评测LLM中文理解与泛化能力。
- 131次使用
-
- AI Prompt Library
- 探索AI Prompt Library免费资源库,涵盖营销、写作及多场景AI提示词。兼容ChatGPT、Claude等工具,一键复制优化输出,提升工作效率。
- 64次使用
-
- Generrated
- Generrated汇集9300+张DALL·E生成图像及对应提示词,支持查看完整图集、对比DALL·E 2与3版本差异,是AI绘图新手学习Prompt设计与获取创作灵感的实用工具。
- 44次使用
查看更多
相关文章
-
- MySQL 明明加了索引,为什么查询还是很慢?先查这 6 个点
- 2026-06-27 374浏览
-
- golang MySQL实现对数据库表存储获取操作示例
- 2022-12-22 499浏览
-
- golang 基于 mysql 简单实现分布式读写锁
- 2023-01-07 384浏览
-
- 详解如何利用GORM实现MySQL事务
- 2023-01-07 184浏览
-
- Go语言实现操作MySQL的基础知识总结
- 2023-01-23 265浏览
