golang中snappy的使用场合实例详解
来源:脚本之家
2022-12-30 21:13:29
0浏览
收藏
IT行业相对于一般传统行业,发展更新速度更快,一旦停止了学习,很快就会被行业所淘汰。所以我们需要踏踏实实的不断学习,精进自己的技术,尤其是初学者。今天golang学习网给大家整理了《golang中snappy的使用场合实例详解》,聊聊压缩、snappy,我们一起来看看吧!
前言
项目中遇到的压缩/解压缩需求应该是很多的,比如典型的考虑网络传输延时而对数据进行压缩传输,又或者其他各种省空间存储需求等。这次同样是遇到了类似需求,在做一个爬虫时,因为抓取项目还未确定,所以考虑将整个html页面压缩存储于数据库,于是又是各种google,最后不出意外的google到了google家的Snappy :-)
google 自家的snappy 压缩优点是非常高的速度和合理的压缩率。压缩率比gzip 小,CPU 占用小。
golang中snappy使用场合
下面是对几个简单的字符串做snappy 压缩前后对比:
package main
import (
"fmt"
"github.com/golang/snappy"
"io/ioutil"
)
var (
textMap = map[string]string{
"a": `1234567890-=qwertyuiop[]\';lkjhgfdsazxcvbnm,./`,
"b": `1234567890-=qwertyuiop[]\';lkjhgfdsazxcvbnm,./1234567890-=qwertyuiop[]\';lkjhgfdsazxcvbnm,./1234567890-=qwertyuiop[]\';lkjhgfdsazxcvbnm,./1234567890-=qwertyuiop[]\';lkjhgfdsazxcvbnm,./`,
"c": `浕浉浄浀浂洉洡洣浐洘泚浌洼洽派洿浃浇浈浊测浍济浏浑浒浓浔泿洱涏洀洁洂洃洄洅洆洇洈洊洋洌洎洏洐洑洒洓洔洕洗洠洙洚洛洝洞洟洢洤津洦洧洨洩洪洫洬洭洮洲洳洴洵洶洷洸洹洺活涎`,
"d": `浕浉浄浀浂洉洡洣浐洘泚浌洼洽派洿浃浇浈浊测浍济浏浑浒浓浔泿洱涏洀洁洂洃洄洅洆洇洈洊洋洌洎洏洐洑洒洓洔洕洗洠洙洚洛洝洞洟洢洤津洦洧洨洩洪洫洬洭洮洲洳洴洵洶洷洸洹洺活涎浕浉浄浀浂洉洡洣浐洘泚浌洼洽派洿浃浇浈浊测浍济浏浑浒浓浔泿洱涏洀洁洂洃洄洅洆洇洈洊洋洌洎洏洐洑洒洓洔洕洗洠洙洚洛洝洞洟洢洤津洦洧洨洩洪洫洬洭洮洲洳洴洵洶洷洸洹洺活涎浕浉浄浀浂洉洡洣浐洘泚浌洼洽派洿浃浇浈浊测浍济浏浑浒浓浔泿洱涏洀洁洂洃洄洅洆洇洈洊洋洌洎洏洐洑洒洓洔洕洗洠洙洚洛洝洞洟洢洤津洦洧洨洩洪洫洬洭洮洲洳洴洵洶洷洸洹洺活涎`,
}
imgSrc = []string{
"1.jpg", "2.jpg", "3.jpg", "4.jpg",
}
)
func main() {
for k, v := range textMap {
got := snappy.Encode(nil, []byte(v))
fmt.Println("k:", k, "len:", len(v), len(got))
}
fmt.Println("snappy jpg")
for _, v := range imgSrc {
buf, err := ioutil.ReadFile(v)
if err == nil {
got := snappy.Encode(nil, buf)
fmt.Println("k:", v, "len:", len(buf), len(got))
}
}
}
输出:
k: a len: 46 48 k: b len: 184 58 k: c len: 246 250 k: d len: 738 274 snappy jpg k: 1.jpg len: 302829 282525 k: 2.jpg len: 89109 89051 k: 3.jpg len: 124463 123194 k: 4.jpg len: 420886 368608
如果字符串包含重复字符多压缩才看到效果,对jpg 图片的压缩率不大。
对一个实际使用的数据库是否使用snappy 做对比,用户和文章都是10万,文章内容较简单。
使用snappy 压缩前:
用时 4m32.916312692s 数据库占用空间 176,209,920 字节(磁盘上的 172 MB)
使用snappy 压缩后:
用时 4m6.750271414s 数据库占用空间 159,424,512 字节(磁盘上的 150.9 MB)
从使用时间上看,此例压缩使用的CPU 时间小于数据压缩后省下来的数据存储IO 占用的时间。因为文章数据较短、内容简单,压缩效果不明显。
总结
文中关于golang的知识介绍,希望对你的学习有所帮助!若是受益匪浅,那就动动鼠标收藏这篇《golang中snappy的使用场合实例详解》文章吧,也可关注golang学习网公众号了解相关技术文章。
版本声明
本文转载于:脚本之家 如有侵犯,请联系study_golang@163.com删除
使用Go语言解析动态JSON格式的方法
- 上一篇
- 使用Go语言解析动态JSON格式的方法
- 下一篇
- golang实现并发数控制的方法
评论列表
-
- 甜蜜的羊
- 这篇博文太及时了,太细致了,赞 ??,mark,关注师傅了!希望师傅能多写Golang相关的文章。
- 2023-04-29 23:54:50
-
- 坚定的彩虹
- 赞 ??,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,帮助很大,总算是懂了,感谢楼主分享技术文章!
- 2023-03-04 15:01:47
-
- 凶狠的日记本
- 细节满满,码住,感谢大佬的这篇文章内容,我会继续支持!
- 2023-02-25 17:11:58
-
- 土豪的猎豹
- 这篇文章内容太及时了,好细啊,太给力了,码住,关注作者了!希望作者能多写Golang相关的文章。
- 2023-01-17 18:42:41
查看更多
最新文章
-
- Golang · Go教程 | 3小时前 | go · 文件系统 · 目录读取 · 排序 Go 文件大小 os.ReadDir
- Go os.ReadDir 怎么按文件大小筛选并稳定排序
- 282浏览 收藏
-
- Golang · Go教程 | 3小时前 |
- Go 怎么安全地批量重命名文件并支持失败回滚
- 240浏览 收藏
-
- Golang · Go教程 | 3小时前 | go · 文件遍历 · filepath.WalkDir ·
- Go filepath.WalkDir 怎么跳过隐藏目录并继续遍历
- 479浏览 收藏
-
- Golang · Go教程 | 3小时前 | 文件处理 · zip · Go教程 · Go archive/zip ZIP目录索引 FileHeader
- Go 怎么为 ZIP 文件生成目录索引而不解压内容
- 408浏览 收藏
-
- Golang · Go教程 | 4小时前 | 文件处理 · go · archive/tar · 安全解包 · Go archive/tar tar.Reader 文件解包
- Go archive/tar 怎么保留目录结构解包到指定目录
- 136浏览 收藏
-
- Golang · Go教程 | 4小时前 | 标准库 · Go教程 · IO处理 · Go 流式读取 io.Reader io.MultiReader
- Go 怎么把多个 Reader 拼成一个连续输入流
- 426浏览 收藏
-
- Golang · Go教程 | 5小时前 | go · bufio · 日志处理 · Go bufio.Scanner 日志读取
- Go bufio.Scanner 读取长日志怎么解除单行长度限制
- 140浏览 收藏
-
- Golang · Go教程 | 5小时前 | csv · Go教程 · 文件解析 · Go encoding/csv CSV读取
- Go 读取 CSV 时怎么保留字段中的换行和逗号
- 157浏览 收藏
查看更多
课程推荐
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
查看更多
AI推荐
-
- SuperCLUE
- SuperCLUE是权威的中文大语言模型综合评测基准,涵盖语言理解、知识应用、AI Agent智能体及安全性等12项核心能力。通过多轮对话与客观测试,定期发布榜单与技术报告,为模型研发、优化及行业选型提供科学依据。
- 168次使用
-
- C-Eval
- 深入了解C-Eval中文评估套件,涵盖52个学科与4级难度。本文详解其功能特点、Zero-shot/Few-shot使用方法及代码示例,助您全面评测LLM中文理解与泛化能力。
- 95次使用
-
- AI Prompt Library
- 探索AI Prompt Library免费资源库,涵盖营销、写作及多场景AI提示词。兼容ChatGPT、Claude等工具,一键复制优化输出,提升工作效率。
- 16次使用
-
- LangGPT
- LangGPT是一种受编程语言启发的结构化提示词设计工具,提供双层框架、模块化模板及变量功能,帮助用户高效编写高质量Prompt。该项目已在GitHub免费开源,适用于内容创作、编程辅助等多场景。
- 29次使用
-
- ClickPrompt
- ClickPrompt是一款专为AI提示词编写者设计的开源在线工具,支持Stable Diffusion绘图、ChatGPT对话及GitHub Copilot代码辅助。提供Prompt自动生成、一键运行、社区分享及可视化优化功能,帮助用户高效获取精准AI输出。
- 64次使用
查看更多
相关文章
-
- Golang压缩Jpeg图片和PNG图片的操作
- 2022-12-29 407浏览
-
- Go 1.27 compress/flate 输出为何不再稳定:快照测试与语义断言取舍
- 2026-09-03 101浏览
-
- Go 怎么用 io.Pipe 连接压缩器和 HTTP 上传
- 2026-09-07 249浏览
-
- Go 1.27 压缩结果变了但还能解压吗:flate 字节一致性与语义兼容
- 2026-09-04 194浏览
-
- 详解mysql表数据压缩
- 2023-01-07 500浏览

