如何将文件保存在内存中 - 在服务器之间传输文件而不将它们存储在本地
有志者,事竟成!如果你在学习Golang,那么本文《如何将文件保存在内存中 - 在服务器之间传输文件而不将它们存储在本地》,就很适合你!文章讲解的知识点主要包括golang,若是你对本文感兴趣,或者是想搞懂其中某个知识点,就请你继续往下看吧~
问题内容
我正在编写一个简单的部署工具,它需要从 s3 获取 tar 文件,提取它们,然后将它们上传到我们的登台服务器。我想这样做而不是将文件存储在本地,将它们保存在内存中。
这是我从 s3 下载文件的代码
func s3downloadFile(downloader *s3manager.Downloader, item string) {
localitem := strings.Replace(item, s3base, "", -1)
os.MkdirAll(path.Dir(localitem), os.ModePerm)
file, err := os.Create(localitem)
if err != nil {
exitErrorf("Unable to open file %q, %v", err)
}
defer file.Close()
numBytes, err := downloader.Download(file,
&s3.GetObjectInput{
Bucket: aws.String(s3bucket),
Key: aws.String(item),
})
if err != nil {
exitErrorf("Unable to download item %q, %v", item, err)
}
fmt.Println("Downloaded", file.Name(), numBytes, "bytes")
}
我想避免在此示例中创建目录和文件,而将所有内容保存在内存中。我省略了从我的代码中提取文件的步骤。下一步是使用go- scp上传文件,如下所示:
// Finaly, copy the file over // Usage: CopyFile(fileReader, remotePath, permission) client.CopyFile(f, "/path/to/remote/file", "0655")
然后我的问题将集中在file, err := os.Create(localitem)这段代码的一部分上,我怎样才能将文件阅读器保存在内存中,而不是在本地存储文件。
正确答案
这在[文档中Download](https://godoc.org/github.com/aws/aws-sdk-
go/service/s3/s3manager#Downloader.Download)提到:
w io.WriterAt 可以通过 os.File 来满足,以进行多部分并发下载,或者在内存中使用 aws.WriteAtBuffer 进行 []byte 包装器。
所以使用 an[aws.WriteAtBuffer](https://godoc.org/github.com/aws/aws-sdk-
go/aws#WriteAtBuffer)而不是 an *os.File:
buf := new(aws.WriteAtBuffer)
numBytes, err := downloader.Download(buf, &s3.GetObjectInput{
Bucket: aws.String(s3bucket),
Key: aws.String(item),
})
tr := tar.NewReader(bytes.NewReader(buf.Bytes()))
// ...
文中关于golang的知识介绍,希望对你的学习有所帮助!若是受益匪浅,那就动动鼠标收藏这篇《如何将文件保存在内存中 - 在服务器之间传输文件而不将它们存储在本地》文章吧,也可关注golang学习网公众号了解相关技术文章。
字符串切片上的 For 循环迭代不起作用
- 上一篇
- 字符串切片上的 For 循环迭代不起作用
- 下一篇
- 为什么我用 openssl 和 golang 生成的 RSA 签名不同?
-
- Golang · Go问答 | 3小时前 |
- Go HTTP Server 为什么读取请求体后响应变慢
- 452浏览 收藏
-
- Golang · Go问答 | 3小时前 | Go CGO 交叉编译 头文件 CC CGO_ENABLED sysroot
- Go 交叉编译为什么找不到目标系统的头文件
- 390浏览 收藏
-
- Golang · Go问答 | 3小时前 |
- Go race 为什么不报告跨进程的数据竞争
- 126浏览 收藏
-
- Golang · Go问答 | 3小时前 |
- Go t.Cleanup 为什么注册顺序决定释放顺序
- 382浏览 收藏
-
- Golang · Go问答 | 3小时前 |
- Go fuzz 测试为什么无法读取工作目录文件
- 142浏览 收藏
-
- Golang · Go问答 | 3小时前 |
- Go GOFLAGS 为什么改变了命令行默认行为
- 240浏览 收藏
-
- Golang · Go问答 | 3小时前 | 依赖管理 · Go问答 · Go vendor go.mod 模块缓存 -mod=vendor modules.txt
- Go vendor 模式为什么忽略模块缓存中的新版本
- 231浏览 收藏
-
- Golang · Go问答 | 3小时前 | Go CI CGO GOCACHE Build cache
- Go build cache 为什么没有缓存 cgo 编译结果
- 272浏览 收藏
-
- Golang · Go问答 | 3小时前 | 标准库 · go · 文件读取 · 错误排查 · Go reset Multistream gzip.Reader io.ByteReader 压缩流
- Go gzip.Reader.Multistream 为什么会连续读取多个压缩流
- 176浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- PubMedQA
- 深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
- 719次使用
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 726次使用
-
- LMArena
- LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
- 801次使用
-
- HELM
- 深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
- 762次使用
-
- MMBench
- MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
- 599次使用
-
- GOLANG使用Context管理关联goroutine的方法
- 2022-12-28 193浏览
-
- 聊聊Go中的注释和godoc工具
- 2022-12-29 354浏览
-
- 聊聊Golang语言中的复数类型
- 2023-01-07 418浏览
-
- 浅析Golang中的浮点类型(float32和float64)
- 2022-12-23 161浏览
-
- 聊聊Golang中的整数类型
- 2022-12-24 209浏览

