go-zero源码阅读之布隆过滤器实现代码
在Golang实战开发的过程中,我们经常会遇到一些这样那样的问题,然后要卡好半天,等问题解决了才发现原来一些细节知识点还是没有掌握好。今天golang学习网就整理分享《go-zero源码阅读之布隆过滤器实现代码》,聊聊布隆过滤器、gozero,希望可以帮助到正在努力赚钱的你。
一. 布隆过滤器简介
布隆过滤器可以用于检索一个元素是否在一个集合中。它的优点是空间效率和查询时间都比一般的算法要好的多,缺点是有一定的误识别率和删除困难。
二. 常用场景
1. 解决缓存穿透
2. 数据去重,如用户是否发送过短信
3. 特定数据识别
三. go-zero的布隆过滤器实现
1. 简介
依赖redis.bitmap, 将数据多次hash后,插入到多个特定位,并设置为1。当进行数据检测时,经过相同hash后,检测所有位,只要其中一位为0,则代表数据不存在,否则数据可能存在。
2. 布隆过滤器结构体
type ( // A Filter is a bloom filter. // 结构体 Filter struct { bits uint bitSet bitSetProvider } // 位数组接口定义 bitSetProvider interface { check([]uint) (bool, error) set([]uint) error } )
3. 初始化方法
func New(store *redis.Redis, key string, bits uint) *Filter { return &Filter{ bits: bits, bitSet: newRedisBitSet(store, key, bits), } }
初始化方法比较简单,具体操作依赖newRedisBitSet
4. newRedisBitSet方法
func newRedisBitSet(store *redis.Redis, key string, bits uint) *redisBitSet { return &redisBitSet{ store: store, key: key, bits: bits, } }
简单的初始化, 初始化结束
5. 数据添加--Add
func (f *Filter) Add(data []byte) error { // 获取数据多次hash后的各key locations := f.getLocations(data) // 插入数据 return f.bitSet.set(locations) }
首先获取hash后的key的切片,然后调用set方法,将数据插入位数组(redis.bitmap)
6. 数据添加--set
func (r *redisBitSet) set(offsets []uint) error { // 将[]uint转为[]string args, err := r.buildOffsetArgs(offsets) if err != nil { return err } // 执行lua脚本 _, err = r.store.Eval(setScript, []string{r.key}, args) if err == redis.Nil { return nil } return err }
首先将[]uint转为[]string, 因为redis lua需要[]string,然后执行lua脚本进行数据插入,使用lua是为了保证原子性
7. 数据添加--lua脚本
setScript = ` for _, offset in ipairs(ARGV) do redis.call("setbit", KEYS[1], offset, 1) end `
for循环获取到每个偏移量,使用setbit命令设置各偏移量为1
8. 数据检测--Exists
func (f *Filter) Exists(data []byte) (bool, error) { // 同数据set一致,获取数据多次hash后,偏移量切片 locations := f.getLocations(data) // 调用check方法进行检测 isSet, err := f.bitSet.check(locations) if err != nil { return false, err } return isSet, nil }
首先调用getLocations方法获取数据多次hash后偏移量切片,调用check方法进行数据检测
9. 数据检测--check
func (r *redisBitSet) check(offsets []uint) (bool, error) { // []uint转为[]string,和set调用的一致 args, err := r.buildOffsetArgs(offsets) if err != nil { return false, err } //执行lua脚本,检测各偏移量数据是否都存在 resp, err := r.store.Eval(testScript, []string{r.key}, args) // 根据返回值判断数据是否存在 // key不存在特殊处理 if err == redis.Nil { return false, nil } else if err != nil { return false, err } exists, ok := resp.(int64) if !ok { return false, nil } return exists == 1, nil }
执行lua脚本判断数据是否存在,根据返回值返回数据是否存在
10. 数据检测--lua脚本
testScript = ` for _, offset in ipairs(ARGV) do if tonumber(redis.call("getbit", KEYS[1], offset)) == 0 then return false end end return true `
fou循环判断各偏移量是否存在,只要有一个为0,就代表数据不存在,各offset都为1则代表数据存在
以上就是本文的全部内容了,是否有顺利帮助你解决问题?若是能给你带来学习上的帮助,请大家多多支持golang学习网!更多关于Golang的相关知识,也可关注golang学习网公众号。

- 上一篇
- MySQL数据库的多种连接方式以及实用工具

- 下一篇
- MySQL之xtrabackup备份恢复的实现
-
- 英勇的玉米
- 太细致了,码住,感谢作者的这篇博文,我会继续支持!
- 2023-03-09 11:49:02
-
- 伶俐的往事
- 赞 ??,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,看完之后很有帮助,总算是懂了,感谢师傅分享技术贴!
- 2023-03-07 03:32:06
-
- 专注的菠萝
- 这篇技术贴真及时,太全面了,赞 ??,码起来,关注up主了!希望up主能多写Golang相关的文章。
- 2023-03-06 13:53:06
-
- 重要的鸭子
- 好细啊,码起来,感谢博主的这篇博文,我会继续支持!
- 2023-03-05 04:27:22
-
- 灵巧的故事
- 这篇技术贴真及时,很详细,赞 ??,已加入收藏夹了,关注博主了!希望博主能多写Golang相关的文章。
- 2023-03-05 03:24:47
-
- 娇气的老师
- 这篇技术文章真及时,up主加油!
- 2023-03-01 20:46:43
-
- 直率的夕阳
- 受益颇多,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,看完之后很有帮助,总算是懂了,感谢博主分享技术文章!
- 2023-03-01 06:29:36
-
- Golang · Go教程 | 4分钟前 |
- Golang字符串拼接方法对比及优化方案
- 129浏览 收藏
-
- Golang · Go教程 | 12分钟前 |
- Golang模板引擎教程:html/template与第三方对比
- 408浏览 收藏
-
- Golang · Go教程 | 13分钟前 |
- Golang优化云原生启动,轻量二进制冷启动优势解析
- 163浏览 收藏
-
- Golang · Go教程 | 19分钟前 |
- Golang加速DevOps镜像构建技巧
- 248浏览 收藏
-
- Golang · Go教程 | 27分钟前 |
- Go语言panic与recover机制解析
- 195浏览 收藏
-
- Golang · Go教程 | 32分钟前 |
- JWT与mTLS认证实战教程
- 292浏览 收藏
-
- Golang · Go教程 | 44分钟前 |
- 优化cgo调用性能的实用技巧
- 217浏览 收藏
-
- Golang · Go教程 | 46分钟前 |
- 用Golang开发K8s准入控制器教程
- 324浏览 收藏
-
- Golang · Go教程 | 51分钟前 |
- Golangselect原理与case执行顺序详解
- 399浏览 收藏
-
- Golang · Go教程 | 1小时前 |
- Golang工厂模式:简单工厂与抽象工厂对比
- 160浏览 收藏
-
- Golang · Go教程 | 1小时前 |
- Golang错误处理性能影响分析
- 198浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 511次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 498次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 484次学习
-
- 千音漫语
- 千音漫语,北京熠声科技倾力打造的智能声音创作助手,提供AI配音、音视频翻译、语音识别、声音克隆等强大功能,助力有声书制作、视频创作、教育培训等领域,官网:https://qianyin123.com
- 95次使用
-
- MiniWork
- MiniWork是一款智能高效的AI工具平台,专为提升工作与学习效率而设计。整合文本处理、图像生成、营销策划及运营管理等多元AI工具,提供精准智能解决方案,让复杂工作简单高效。
- 89次使用
-
- NoCode
- NoCode (nocode.cn)是领先的无代码开发平台,通过拖放、AI对话等简单操作,助您快速创建各类应用、网站与管理系统。无需编程知识,轻松实现个人生活、商业经营、企业管理多场景需求,大幅降低开发门槛,高效低成本。
- 106次使用
-
- 达医智影
- 达医智影,阿里巴巴达摩院医疗AI创新力作。全球率先利用平扫CT实现“一扫多筛”,仅一次CT扫描即可高效识别多种癌症、急症及慢病,为疾病早期发现提供智能、精准的AI影像早筛解决方案。
- 98次使用
-
- 智慧芽Eureka
- 智慧芽Eureka,专为技术创新打造的AI Agent平台。深度理解专利、研发、生物医药、材料、科创等复杂场景,通过专家级AI Agent精准执行任务,智能化工作流解放70%生产力,让您专注核心创新。
- 98次使用
-
- Redis BloomFilter布隆过滤器原理与实现
- 2022-12-31 472浏览
-
- gozero微服务框架logx日志组件剖析
- 2022-12-24 314浏览
-
- 关于go-zero单体服务使用泛型简化注册Handler路由的问题
- 2022-12-30 346浏览
-
- go zero微服务实战性能优化极致秒杀
- 2022-12-27 207浏览
-
- gozero微服务高在请求量下如何优化
- 2023-01-01 268浏览