Go实现文件分片上传
来源:脚本之家
2023-01-07 12:01:03
0浏览
收藏
本篇文章主要是结合我之前面试的各种经历和实战开发中遇到的问题解决经验整理的,希望这篇《Go实现文件分片上传》对你有很大帮助!欢迎收藏,分享给更多的需要的朋友学习~
Go语言在写HTTP服务程序时,会经常用到文件上传和文件下载,文件上传和文件下载都可以用http包,默认的功能基本上够用了。http包支持文件下载的断点续传和进度显示,文件上传貌似不支持断点续传,不知道是不是要web端来实现。
然后我自己配合web端实现了大文件分片上传,来完成断点续传和进度显示的功能。
基本思想是,在web端将上传的文件进行分片处理,然后向服务端发送上传请求(UploadRequest)包括文件名,MD5,文件大小,和文件总片数。
然后开始一片一片的上传(Upload)。如果暂停了或者断网失败了,就记录当前上传片的片数,下一次上传,重发UploadRequest,chunkPos为续传位置片数,然后从这个记录的片数开始接着上传(Upload)。在服务端,记录首次请求的文件名,MD5,文件大小,文件总片数,然后开始接收每一片,将每一个片保存为一个单独的文件,在接收完最后一个片时,将所有的分片份文件进行合并。保存为对应的文件名。最后再校验MD5码。
对于不同用户的请求,将文件上传的信息存储到session中,当前文件上传暂停后,上传其它文件时,向session增加新文件的信息。暂停后,接着上传最开始的文件,则直接从session中取得该文件的信息,包括文件名,上传到某一个片的信息等。
服务端实现代码:
func UploadRequest(w http.ResponseWriter, r *http.Request) {
log.WithFields(log.Fields{
"HTTP": r.Method,
"FUNC": "UploadRequest",
}).Info("HTTP REQUEST")
header := w.Header()
header.Add("Content-Type", "application/json")
/* session authentication */
sess := session.GlobalSessions.SessionCheck(w, r)
if sess == nil {
log.Error("sess check error")
fmt.Fprintf(w, config.FmtStr, "3000", "error", "session check error")
return
}
defer r.Body.Close()
con, _ := ioutil.ReadAll(r.Body) //获取post的body数据
log.Info("UploadRequest json: ", string(con))
var uploadReq uploadRequest
err := json.Unmarshal([]byte(con), &uploadReq) /* 解析json字符串数据到结构体中 */
if err != nil {
log.Error("json unmarshal error")
fmt.Fprintf(w, config.FmtStr, "2000", "error", "json unmarshal error")
return
}
switch uploadReq.Option {
case "reUploadFile":
{
sess.Set("currentFile", uploadReq)
err := os.Remove("./tmp/" + uploadReq.FileName + "/" + uploadReq.FileName + "_" + uploadReq.ChunkPos)
if err != nil {
log.Error(err)
}
fmt.Fprintf(w, config.FmtStr, "1000", "success", "reupload request success")
}
case "uploadFile":
{
err = os.Mkdir("./tmp/"+uploadReq.FileName, 0777)
if err != nil {
log.Info(err)
fmt.Fprintf(w, config.FmtStr, "3000", "error", "mkdir error")
} else {
log.Infof("create dir %s ok\r\n", uploadReq.FileName)
}
// 文件上传信息保存,保存到session中,用于分片续传时使用
sess.Set(uploadReq.FileName, uploadReq)
sess.Set("currentFile", uploadReq)
fmt.Fprintf(w, config.FmtStr, "1000", "success", "upload request success")
}
case "uploadCancel":
{
err = os.RemoveAll("./tmp/" + uploadReq.FileName)
if err != nil {
log.Fatal(err)
}
sess.Delete(uploadReq.FileName)
fmt.Fprintf(w, config.FmtStr, "1000", "success", "upload file success")
return
}
default:
{
fmt.Fprintf(w, config.FmtStr, "2000", "error", "upload request option error")
}
}
}
/* 分片上传功能实现 */
func Upload(w http.ResponseWriter, r *http.Request) {
log.WithFields(log.Fields{
"HTTP": r.Method,
"FUNC": "Upload",
}).Info("HTTP REQUEST")
header := w.Header()
header.Add("Content-Type", "application/json")
/* session authentication */
sess := globalSessions.SessionCheck(w, r) //session 检查的接口封装
if sess == nil {
log.Error("session check failed")
fmt.Fprintf(w, config.FmtStr, "3000", "error", "session check failed")
return
}
current_dir := sess.Get("current_dir")
log.Info("current dir: ", current_dir)
up_dir := sess.Get("up_dir")
log.Info("up_dir: ", up_dir)
// var current_dir string = "./river/test"
/* 表单上传文件 */
if r.Method == "GET" {
crutime := time.Now().Unix()
h := md5.New()
io.WriteString(h, strconv.FormatInt(crutime, 10))
token := fmt.Sprintf("%x", h.Sum(nil))
t, _ := template.ParseFiles("upload.gtpl")
t.Execute(w, token)
} else {
r.ParseMultipartForm(32 0; i-- {
if fileName[i] == '.' {
preFileName = fileName[:i] // 文件名前缀 test
sufFileName = fileName[i:] // 文件名后缀 .txt
fileNameFinal = []byte(string(preFileName) + "_" + time + string(sufFileName))
log.Info("fileNameFile: ", fileNameFinal)
break
}
}
fii, err = os.OpenFile(string(fileNameFinal), os.O_WRONLY|os.O_CREATE, 0777) // 此处假设当前目录下已存在test目录
} else {
fii, err = os.OpenFile(current_dir.(string)+uploadFileInfo.FileName, os.O_CREATE|os.O_WRONLY|os.O_APPEND, os.ModePerm)
}
defer fii.Close()
if err != nil {
log.Error(err)
fmt.Fprintf(w, config.FmtStr, "3000", "error", "Open object file error")
return
}
index, _ := strconv.Atoi(uploadFileInfo.ChunkNum)
for i := 1; i
以上就是《Go实现文件分片上传》的详细内容,更多关于golang的资料请关注golang学习网公众号!
版本声明
本文转载于:脚本之家 如有侵犯,请联系study_golang@163.com删除
Go语言包管理工具Godep的用法
- 上一篇
- Go语言包管理工具Godep的用法
- 下一篇
- Golang模块引入及表格读写业务快速实现示例
评论列表
-
- 踏实的牛排
- 这篇博文出现的刚刚好,太全面了,真优秀,已加入收藏夹了,关注作者大大了!希望作者大大能多写Golang相关的文章。
- 2023-03-31 02:25:42
-
- 朴实的棒球
- 这篇文章内容真是及时雨啊,太全面了,很好,收藏了,关注老哥了!希望老哥能多写Golang相关的文章。
- 2023-02-06 21:42:23
查看更多
最新文章
-
- Golang · Go教程 | 16分钟前 |
- Go 怎么逐行读取大 CSV 文件并记录错误行
- 171浏览 收藏
-
- Golang · Go教程 | 13小时前 |
- Go 结构体标签读取不一致:用 StructTag.Get 区分缺失键、空值与格式错误
- 423浏览 收藏
-
- Golang · Go教程 | 17小时前 |
- Go 私有模块在 CI 里突然走代理:用 GOPRIVATE、GONOSUMDB 和 GOPROXY 分开排查
- 339浏览 收藏
-
- Golang · Go教程 | 17小时前 | govulncheck · Go安全 · govulncheck Go漏洞扫描 source模式 binary模式
- Go govulncheck 结果怎么看不误判:source 模式与 binary 模式各自能证明什么
- 142浏览 收藏
-
- Golang · Go教程 | 17小时前 | 依赖管理 · go · 模块版本 · Go MVS go list Go Modules
- Go 依赖升级后仍命中旧版本:用 go list -m all 还原 MVS 选择结果
- 462浏览 收藏
-
- Golang · Go教程 | 18小时前 |
- govulncheck 为什么有的漏洞只出现在测试:按扫描范围拆分依赖风险
- 189浏览 收藏
-
- Golang · Go教程 | 18小时前 | 依赖管理 · Go Modules · 排障 · Go replace go.mod go list
- Go replace 看似生效却仍下载远程模块:用 go list -m -json 查真实来源
- 409浏览 收藏
-
- Golang · Go教程 | 18小时前 |
- govulncheck 报告里的 symbol 是什么:从入口函数追到可达漏洞代码
- 151浏览 收藏
-
- Golang · Go教程 | 21小时前 |
- Go 服务 CPU 高还是内存涨:按症状选择 pprof profile 并验证热点
- 314浏览 收藏
-
- Golang · Go教程 | 21小时前 |
- Go 多模块联调为什么仍命中缓存:用 GOWORK 与 go list 查清本地路径
- 311浏览 收藏
-
- Golang · Go教程 | 22小时前 | go · 数据库 · Context · 超时控制 · Go context database/sql 数据库超时 QueryContext
- Go 数据库超时返回后连接为何不回落:从 Context 传播排查 database/sql 取消链
- 314浏览 收藏
查看更多
课程推荐
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
查看更多
AI推荐
-
- SuperCLUE
- SuperCLUE是权威的中文大语言模型综合评测基准,涵盖语言理解、知识应用、AI Agent智能体及安全性等12项核心能力。通过多轮对话与客观测试,定期发布榜单与技术报告,为模型研发、优化及行业选型提供科学依据。
- 144次使用
-
- C-Eval
- 深入了解C-Eval中文评估套件,涵盖52个学科与4级难度。本文详解其功能特点、Zero-shot/Few-shot使用方法及代码示例,助您全面评测LLM中文理解与泛化能力。
- 65次使用
-
- ClickPrompt
- ClickPrompt是一款专为AI提示词编写者设计的开源在线工具,支持Stable Diffusion绘图、ChatGPT对话及GitHub Copilot代码辅助。提供Prompt自动生成、一键运行、社区分享及可视化优化功能,帮助用户高效获取精准AI输出。
- 35次使用
-
- PromptHero
- PromptHero是专业的AI提示词搜索引擎与优化平台,支持Stable Diffusion、Midjourney等主流模型。提供海量提示词库、分类搜索、在线课程及社区互动,助力用户高效生成高质量AI图像与文本。
- 6次使用
-
- Stable Diffusion Prompt Book
- 深入解析OpenArt推出的Stable Diffusion Prompt Book,这本免费的开源提示词指南涵盖从基础语法到高级技巧,提供风格化词库与参数建议,助您优化AI绘画生成效果。
- 21次使用
查看更多
相关文章
-
- Go 语言实现 HTTP 文件上传和下载
- 2023-01-19 235浏览
-
- GO语言实现文件上传的示例代码
- 2022-12-23 475浏览
-
- Golang实现图片上传功能的示例代码
- 2022-12-30 362浏览
-
- Go Gin实现文件上传下载的示例代码
- 2023-01-08 117浏览
-
- golang实现的文件上传下载小工具
- 2023-02-25 123浏览

