初探分布式系统之数据拆分
来源:SegmentFault
2023-02-24 18:31:12
0浏览
收藏
有志者,事竟成!如果你在学习数据库,那么本文《初探分布式系统之数据拆分》,就很适合你!文章讲解的知识点主要包括MySQL、分布式、Java、负载均衡,若是你对本文感兴趣,或者是想搞懂其中某个知识点,就请你继续往下看吧~
个人对分布式系统的涉及很感兴趣,但分布式系统涉及的知识非常多,刚开始学习时也是各个点分散的学习。前两天对于数据拆分这一块做了一个总结,因此记录下来。
技术出现的原因都是为了解决问题,本文章也是按照这个思路去探讨的。
为什么需要将数据库内的数据进行拆分
一台机器的处理能力有限,当数据量大了后性能下降,而且硬件单机成本不高。
如何拆分
垂直分库(根据业务单元的不同把表分到不同的主机,单台机器能够处理的请求数量有限)
水平分表(当一张表的数据多了之后查询效率就会很慢,可以根据字段范围划分不同的表,学生表的id字段,1~10000分为一张表,10000~20000分为另一张表)
拆分带来的问题
单机ACID打破,引入了分布式事务(难点)
join操作困难,查询跨库
自增id受到困难
解决方案
-
分布式事务:两阶段提交(2pc),大概意思就是分布式系统中有一个事务管理器(TM),执行分布式事务时向每个资源申请,资源返回全都OK后再向每个资源提交事务,同样等待每个资源返回OK后就完成事务,其中任何一个环节出现erro则回滚。 坏处很明显性能太差,高并发系统根本不能使用。
业界现使用消息队列来解决分布式事务(RocketMQ)具体步骤如下: 1.MQ发送方发送消息到MQServer 2.MQServer接收并回应,表明以成功到达 3.MQ发送方Commit本地事务 4.若Commit成功则通知MQServer该消息可被消费,失败则表明该消息应被丢弃 5.若MQ发送方超时未对MQServer发送状态,则主动回查事务状态

跨库join操作:转化为多个数据库的查询,我们设计数据库时也应尽量避免产生跨库操作。
自增id:单独做一个id生成器的服务,对于每次请求还可以分配一段id,减少请求次数,增加速度。
终于介绍完啦!小伙伴们,这篇关于《初探分布式系统之数据拆分》的介绍应该让你收获多多了吧!欢迎大家收藏或分享给更多需要学习的朋友吧~golang学习网公众号也会发布数据库相关知识,快来关注吧!
版本声明
本文转载于:SegmentFault 如有侵犯,请联系study_golang@163.com删除
MySQL 常见问题和应用技巧
- 上一篇
- MySQL 常见问题和应用技巧
- 下一篇
- python读excel写入mysql小工具
评论列表
-
- 会撒娇的月光
- 这篇文章内容太及时了,up主加油!
- 2023-03-17 22:35:15
-
- 细腻的大山
- 这篇博文太及时了,好细啊,赞 ??,码起来,关注博主了!希望博主能多写数据库相关的文章。
- 2023-03-16 05:39:50
-
- 精明的嚓茶
- 太细致了,码起来,感谢作者的这篇技术文章,我会继续支持!
- 2023-03-14 10:06:00
-
- 朴实的棒球
- 真优秀,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,帮助很大,总算是懂了,感谢师傅分享技术贴!
- 2023-03-08 12:47:17
-
- 天真的小鸭子
- 这篇文章真是及时雨啊,太全面了,太给力了,收藏了,关注up主了!希望up主能多写数据库相关的文章。
- 2023-03-02 02:44:59
查看更多
最新文章
-
- 数据库 · MySQL | 1天前 |
- MySQL 时间范围查询为什么没有用上索引
- 139浏览 收藏
-
- 数据库 · MySQL | 1天前 |
- MySQL 大表分页怎样避免深分页扫描
- 490浏览 收藏
-
- 数据库 · MySQL | 1天前 | MySQL · 数据库开发 · mysql 递归CTE WITH RECURSIVE cte_max_recursion_depth 层级查询
- MySQL 递归 CTE 怎样设置层级停止条件
- 392浏览 收藏
-
- 数据库 · MySQL | 1天前 |
- MySQL CTE 怎样避免重复写复杂子查询
- 150浏览 收藏
-
- 数据库 · MySQL | 1天前 |
- MySQL JSON_SEARCH 怎样按通配符找到 JSON 字符串路径
- 288浏览 收藏
-
- 数据库 · MySQL | 1天前 | MySQL · JSON · 索引 · 性能 · explain · mysql 索引 JSON json_extract 生成列 JSON_UNQUOTE
- MySQL JSON 字段索引为什么没有命中
- 155浏览 收藏
-
- 数据库 · MySQL | 1天前 |
- MySQL JSON_EXTRACT 返回带引号怎样处理
- 440浏览 收藏
-
- 数据库 · MySQL | 1天前 |
- MySQL JSON_STORAGE_FREE 怎样判断部分更新留下的空间
- 347浏览 收藏
-
- 数据库 · MySQL | 1天前 |
- MySQL 窗口函数怎样计算每组累计金额
- 172浏览 收藏
查看更多
课程推荐
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
查看更多
AI推荐
-
- PubMedQA
- 深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
- 647次使用
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 675次使用
-
- LMArena
- LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
- 721次使用
-
- HELM
- 深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
- 680次使用
-
- MMBench
- MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
- 514次使用
查看更多
相关文章
-
- MySQL 明明加了索引,为什么查询还是很慢?先查这 6 个点
- 2026-06-27 374浏览
-
- golang MySQL实现对数据库表存储获取操作示例
- 2022-12-22 499浏览
-
- Go语言实战之实现一个简单分布式系统
- 2022-12-23 220浏览
-
- Go与Redis实现分布式互斥锁和红锁
- 2022-12-22 117浏览
-
- golang 基于 mysql 简单实现分布式读写锁
- 2023-01-07 384浏览

