当前位置:首页 > 文章列表 > 数据库 > Redis > QCon2014演讲预告:大规模运营Redis的经验@京东

QCon2014演讲预告:大规模运营Redis的经验@京东

来源:51cto 2023-02-24 18:39:14 0浏览 收藏

对于一个数据库开发者来说,牢固扎实的基础是十分重要的,golang学习网就来带大家一点点的掌握基础知识点。今天本篇文章带大家了解《QCon2014演讲预告:大规模运营Redis的经验@京东》,主要介绍了QCon2014,希望对大家的知识积累有所帮助,快点收藏起来吧,否则需要时就找不到了!

在2013年的QCon上海云计算分会场,京东云平台***架构师刘海锋介绍了京东自主研发的分布式存储 – 京东文件系统(JFS),以及基于JFS的统一数据中心存储策略。除了分布式存储之外,刘海锋的团队同时也负责开发一套分布式内存存储平台(RAM store platform),这套自主研发的快速分布式KV存储系统可兼容Redis数据类型、提供多租户统一服务、固有的集群模式、弹性可扩展、同步复制协议、 常驻但不受限于内存、更强的持久性、更低的运维与硬件成本。

在2014年的QCon北京大会,刘海锋将根据他们开发这套系统的经验,分享大规模运营Redis的经验,自研系统的设计思路,以及京东在数据存储方面的技术体系。InfoQ中文站在会前对刘海锋进行了一次采访,邀请他对存储、Redis等方向分享自己的观点。

嘉宾简介

刘海锋(@刘海锋0011),京东系统技术部负责人、云平台***架构师、以及京东架构委员会负责人。他领导存储、缓存、消息、服务框架团队,致力于打造坚实的系统技术平台,稳定支持京东业务的高速发展。

InfoQ:先谈谈你对存储系统、云存储、文件系统、数据库这一块当前发展趋势的看法吧。

刘海锋:数据量越来越大,业务需求也在增多。互联网业务后台需要不同的数据抽象——object/file/kv/tables……但多租户统一管 理、服务化是重要的趋势。比如,给各个业务提供全托管的RDBMS服务、缓存服务、海量非结构数据存取服务,而不是上线一个业务就申请一些机器搭建存储。

InfoQ:用内存存储一般都是因为业务对读写性能有极高的要求。京东大规模内存存储平台现在主要服务于哪些业务?这些业务对读写的要求是什么样的?

刘海锋:非常多的在线业务都需要高速的缓存。比如每次京东购物下单、商品价格展示等等。

InfoQ:Redis在官网上的定义是“高级KV存储系统”,特点在于速度快、数据结构丰富。你如何定义Redis这套系统?

刘海锋:高质量的开源软件。使用方便,速度快,数据类型丰富。用得最多的是string, hashmap两种。

InfoQ:基于Redis进行二次开发的过程中,有哪些需要避开的坑?有哪些是比较好的实践?

刘海锋:Redis是高质量的开源软件。准确地说,是高质量的单机KV内存存储server。但是要大规模应用到生产环境,需要做很多工作来满足公司业务需求。

最早是部署使用单个Redis实例,然后主从复制,集群分片,支持presharding的Java客户端,进而完善监控体系、配置中心,逐渐建设了一个平台来统一托管整个公司的Redis集群。

InfoQ:Redis持久化如果持续进行磁盘写入会造成进程阻塞,这个问题如何解决?

刘海锋:RDB dump其实是fork出一个子进程做的,写入并不会阻塞父进程。但是fork操作的执行开销较高,会block父进程不能及时响应请求。持久化方式是由 各个业务自行选择的,有的选择没有持久化,有的选择AOF,有的是RDB但是dump时间也是设置好的,比如凌晨几点等等。

InfoQ:是否研究过目前在Alpha版本的Redis Cluster,有什么发现?

刘海锋:当然调研和测试过Redis Cluster,现在还不是production ready,所以我们在按照自己的方式搞定集群模式。

InfoQ:对于京东内存存储平台,下一步的开发计划是什么?

刘海锋:从今年年初开始,我们团队正在研发和实施京东的下一代内存存储平台 - JimStore。简单地说,JimStore自主研发的分布式系统(dataserver基于Redis),实现多租户统一管理的、弹性扩展的Redis集群。

技术方面,分步骤做了一些事情:

通过分布式选举做精确的故障检测;自动的故障切换;增加磁盘存储,较冷数据会淘汰至磁盘,这样单实例就支持更大的数据量;自主研发集群模式,实现容量的透明扩展;整个平台多租户服务。

距第六届QCon全球软件开发大会(北京站)2014开幕仅剩一个半月,大会演讲嘉宾已经几近确认完毕。大会的演讲内容在官网:http://www.qconbeijing.com,以及InfoQ微博、微信公众帐号的***播报:@InfoQ、【infoqchina】不断更新。大会9折折扣期将在本月26日截止。如欲报名报请速点击报名页面

文中关于redis的知识介绍,希望对你的学习有所帮助!若是受益匪浅,那就动动鼠标收藏这篇《QCon2014演讲预告:大规模运营Redis的经验@京东》文章吧,也可关注golang学习网公众号了解相关技术文章。

版本声明
本文转载于:51cto 如有侵犯,请联系study_golang@163.com删除
新浪微博关系服务与Redis的故事新浪微博关系服务与Redis的故事
上一篇
新浪微博关系服务与Redis的故事
如何在Redis里按模式删除数据?
下一篇
如何在Redis里按模式删除数据?
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • H2O EvalGPT:开源LLM大模型评估与排行榜工具
    H2O EvalGPT
    H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
    51次使用
  • SuperCLUE中文大模型评测基准:功能、能力维度与应用指南
    SuperCLUE
    SuperCLUE是权威的中文大语言模型综合评测基准,涵盖语言理解、知识应用、AI Agent智能体及安全性等12项核心能力。通过多轮对话与客观测试,定期发布榜单与技术报告,为模型研发、优化及行业选型提供科学依据。
    201次使用
  • C-Eval中文评测基准:大语言模型多学科能力评估指南
    C-Eval
    深入了解C-Eval中文评估套件,涵盖52个学科与4级难度。本文详解其功能特点、Zero-shot/Few-shot使用方法及代码示例,助您全面评测LLM中文理解与泛化能力。
    137次使用
  • AI Prompt Library:免费AI提示词库,助力ChatGPT高效创作与营销
    AI Prompt Library
    探索AI Prompt Library免费资源库,涵盖营销、写作及多场景AI提示词。兼容ChatGPT、Claude等工具,一键复制优化输出,提升工作效率。
    68次使用
  • Generrated:DALL·E 2/3 AI绘画提示词灵感库与图像对比平台
    Generrated
    Generrated汇集9300+张DALL·E生成图像及对应提示词,支持查看完整图集、对比DALL·E 2与3版本差异,是AI绘图新手学习Prompt设计与获取创作灵感的实用工具。
    49次使用