当前位置:首页 > 文章列表 > 数据库 > Redis > 详解如何清理Redis内存碎片

详解如何清理Redis内存碎片

来源:脚本之家 2023-05-13 12:34:50 0浏览 收藏

大家好,今天本人给大家带来文章《详解如何清理Redis内存碎片》,文中内容主要涉及到redis内存、碎片,如果你对数据库方面的知识点感兴趣,那就请各位朋友继续看下去吧~希望能真正帮到你们,谢谢!

明明做了数据删除,数据量已经不大了,为什么使用 top 命令查看时,还会发现 Redis 占用了很多内存呢?
实际上,这是因为,当数据删除后,Redis 释放的内存空间会由内存分配器管理,并不会立即返回给操作系统。

Redis 释放的内存空间可能并不是连续的,那么,这些不连续的内存空间很有可能处于一种闲置的状态。这就会导致一个问题:虽然有空闲空间,Redis 却无法用来保存数据,不仅会减少 Redis 能够实际保存的数据量,还会降低 Redis 运行机器的成本回报率。

什么是Redis内存碎片?

操作系统的剩余空间总量足够,但申请一块N字节连续地址的空间时,剩余内存空间中没有大小为N字节的连续空间,那么这些剩余内存空间中,小于N字节的连续内存空间就是内存碎片。

Redis内存碎片是如何形成的?

内存碎片形成有内部原因和外部原因:

  • 内部原因:内存分配器的分配策略决定操作系统无法做到“按需分配”。
    • Redis使用libc、jemalloc、tcmalloc多种内存分配器来分配内存,默认使用jemalloc。
    • 内存分配器是按照固定大小来分配内存空间,不是完全按照应用程序申请的内存大小来分配。
    • 以jemalloc为例,是按照一系列固定的大小划分内存空间,例如8字节、16字节、32字节、...、2KB、4KB等。当程序申请的内存最接近某个固定值时,jemalloc就会给它分配相应大小的空间。
  • 外部原因:键值对大小不一样,并且键值对可以被修改和删除。
    • Redis申请内存空间分配时,对于大小不一的内存空间需求,内存分配器按照固定大小分配内存空间,分配的内存空间一般都会比申请的内存空间大一些,这会产生一定的内存碎片。
    • 键值对会被修改和删除,会导致空间的扩容和释放。

如何判断Redis是否有内存碎片?

DAS通过Redis提供的INFO命令,查询内存使用的详细信息,命令如下:

INFO memory
# Memory
used_memory:350458970752
used_memory_human:326.39G
used_memory_rss:349066919936
used_memory_rss_human:325.09G
…
mem_fragmentation_ratio:1.00
  • used_memory:表示Redis为了保存数据实际申请使用的内存空间。
  • used_memory_rss:表示操作系统实际分配给Redis的物理内存空间,其中包含了内存空间碎片。
  •  mem_fragmentation_ratio:表示Redis当前的内存碎片率。计算公式:mem_fragmentation_ratio=used_memory_rss/used_memory
    • mem_fragmentation_ratio大于等于1但小于等于1.5,这种情况是合理的。
    • mem_fragmentation_ratio大于1.5,表明内存碎片率已经超过了50%。

如何清理内存碎片?

一个“简单粗暴”的方法是重启Redis实例。但是这个方法会带来两个后果:

  • 如果Redis中的数据没有持久化,数据会丢失;
  • 即使Redis数据持久化了,还需要通过AOF或者RDB来恢复,恢复时长取决于AOF或RDB的大小。并且如果只有一个Redis实例,恢复阶段无法提供服务。

 那有没有更好的方法呢?有的,从4.0-RC3版本以后,Redis自身提供了一种内存碎片自动清理的方法。

内存碎片自动清理

内存碎片清理,简单来说,就是“搬家让位,合并空间”。

当有数据把一块连续的内存空间分割成好几块不连续的空间时,操作系统会把数据拷贝到另外,而原来不连续的内存空间就变成连续的内存空间了。

但是碎片清理是有代价的。操作系统需要把多份数据拷贝到新位置,把原有空间释放出来,这会带来时间开销。另外在数据拷贝时,会阻塞Redis,降低性能。

如何缓解这个问题?

Redis专门为自动内存碎片清理机制提供参数设置。可以通过设置参数,来控制碎片清理的开始和结束时机,以及占用的CPU比例,从而减少碎片清理对Redis请求处理的性能影响。

首先,开启自动内存碎片清理:

config set activedefrag yes
然后,设置触发内存清理的条件:

  • active-defrag-ignore-bytes 100mb:表示内存碎片的字节数达到100MB时,开始清理;
  • active-defrag-threshold-lower 10:表示内存碎片空间占操作系统分配给Redis的总空间比例达到10%时,开始清理。

最后,控制清理操作占用CPU时间比例的上、下限:

  • active-defrag-cycle-min 25: 表示自动清理过程所用CPU时间的比例不低于25%,保证清理能正常开展;
  • active-defrag-cycle-max 75:表示自动清理过程所用CPU时间的比例不高于75%,一旦超过,就停止清理,从而避免在清理时,大量的内存拷贝阻塞Redis,导致响应延迟升高。

总结

内存碎片自动清理涉及内存拷贝,这对 Redis 而言,是个潜在的风险。如果你在实践过程中遇到 Redis 性能变慢,记得通过日志看下是否正在进行碎片清理。如果 Redis 的确正在清理碎片,那么,我建议你调小 active-defrag-cycle-max 的值,以减轻对正常请求处理的影响。

终于介绍完啦!小伙伴们,这篇关于《详解如何清理Redis内存碎片》的介绍应该让你收获多多了吧!欢迎大家收藏或分享给更多需要学习的朋友吧~golang学习网公众号也会发布数据库相关知识,快来关注吧!

版本声明
本文转载于:脚本之家 如有侵犯,请联系study_golang@163.com删除
Golang关键字defer的用法详解Golang关键字defer的用法详解
上一篇
Golang关键字defer的用法详解
Go 中 time.After 可能导致的内存泄露问题解析
下一篇
Go 中 time.After 可能导致的内存泄露问题解析
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    542次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    508次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    497次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    484次学习
查看更多
AI推荐
  • 笔灵AI生成答辩PPT:高效制作学术与职场PPT的利器
    笔灵AI生成答辩PPT
    探索笔灵AI生成答辩PPT的强大功能,快速制作高质量答辩PPT。精准内容提取、多样模板匹配、数据可视化、配套自述稿生成,让您的学术和职场展示更加专业与高效。
    20次使用
  • 知网AIGC检测服务系统:精准识别学术文本中的AI生成内容
    知网AIGC检测服务系统
    知网AIGC检测服务系统,专注于检测学术文本中的疑似AI生成内容。依托知网海量高质量文献资源,结合先进的“知识增强AIGC检测技术”,系统能够从语言模式和语义逻辑两方面精准识别AI生成内容,适用于学术研究、教育和企业领域,确保文本的真实性和原创性。
    29次使用
  • AIGC检测服务:AIbiye助力确保论文原创性
    AIGC检测-Aibiye
    AIbiye官网推出的AIGC检测服务,专注于检测ChatGPT、Gemini、Claude等AIGC工具生成的文本,帮助用户确保论文的原创性和学术规范。支持txt和doc(x)格式,检测范围为论文正文,提供高准确性和便捷的用户体验。
    34次使用
  • 易笔AI论文平台:快速生成高质量学术论文的利器
    易笔AI论文
    易笔AI论文平台提供自动写作、格式校对、查重检测等功能,支持多种学术领域的论文生成。价格优惠,界面友好,操作简便,适用于学术研究者、学生及论文辅导机构。
    43次使用
  • 笔启AI论文写作平台:多类型论文生成与多语言支持
    笔启AI论文写作平台
    笔启AI论文写作平台提供多类型论文生成服务,支持多语言写作,满足学术研究者、学生和职场人士的需求。平台采用AI 4.0版本,确保论文质量和原创性,并提供查重保障和隐私保护。
    36次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议隐私政策
返回登录
  • 重置密码