当前位置:首页 > 文章列表 > Golang > Go教程 > Go实现文件分片上传

Go实现文件分片上传

来源:脚本之家 2023-01-07 12:01:03 0浏览 收藏

本篇文章主要是结合我之前面试的各种经历和实战开发中遇到的问题解决经验整理的,希望这篇《Go实现文件分片上传》对你有很大帮助!欢迎收藏,分享给更多的需要的朋友学习~

Go语言在写HTTP服务程序时,会经常用到文件上传和文件下载,文件上传和文件下载都可以用http包,默认的功能基本上够用了。http包支持文件下载的断点续传和进度显示,文件上传貌似不支持断点续传,不知道是不是要web端来实现。

然后我自己配合web端实现了大文件分片上传,来完成断点续传和进度显示的功能。

基本思想是,在web端将上传的文件进行分片处理,然后向服务端发送上传请求(UploadRequest)包括文件名,MD5,文件大小,和文件总片数。
然后开始一片一片的上传(Upload)。如果暂停了或者断网失败了,就记录当前上传片的片数,下一次上传,重发UploadRequest,chunkPos为续传位置片数,然后从这个记录的片数开始接着上传(Upload)。在服务端,记录首次请求的文件名,MD5,文件大小,文件总片数,然后开始接收每一片,将每一个片保存为一个单独的文件,在接收完最后一个片时,将所有的分片份文件进行合并。保存为对应的文件名。最后再校验MD5码。

对于不同用户的请求,将文件上传的信息存储到session中,当前文件上传暂停后,上传其它文件时,向session增加新文件的信息。暂停后,接着上传最开始的文件,则直接从session中取得该文件的信息,包括文件名,上传到某一个片的信息等。

服务端实现代码:

func UploadRequest(w http.ResponseWriter, r *http.Request) {
    log.WithFields(log.Fields{
        "HTTP": r.Method,
        "FUNC": "UploadRequest",
    }).Info("HTTP REQUEST")

    header := w.Header()
    header.Add("Content-Type", "application/json")

    /* session authentication */
    sess := session.GlobalSessions.SessionCheck(w, r)
    if sess == nil {
        log.Error("sess check error")
        fmt.Fprintf(w, config.FmtStr, "3000", "error", "session check error")
        return
    }

    defer r.Body.Close()
    con, _ := ioutil.ReadAll(r.Body) //获取post的body数据

    log.Info("UploadRequest json: ", string(con))

    var uploadReq uploadRequest
    err := json.Unmarshal([]byte(con), &uploadReq) /* 解析json字符串数据到结构体中 */
    if err != nil {
        log.Error("json unmarshal error")
        fmt.Fprintf(w, config.FmtStr, "2000", "error", "json unmarshal error")
        return
    }

    switch uploadReq.Option {
    case "reUploadFile":
        {
            sess.Set("currentFile", uploadReq)
            err := os.Remove("./tmp/" + uploadReq.FileName + "/" + uploadReq.FileName + "_" + uploadReq.ChunkPos)
            if err != nil {
                log.Error(err)
            }
            fmt.Fprintf(w, config.FmtStr, "1000", "success", "reupload request success")
        }
    case "uploadFile":
        {
            err = os.Mkdir("./tmp/"+uploadReq.FileName, 0777)
            if err != nil {
                log.Info(err)
                fmt.Fprintf(w, config.FmtStr, "3000", "error", "mkdir error")
            } else {
                log.Infof("create dir %s ok\r\n", uploadReq.FileName)
            }
            // 文件上传信息保存,保存到session中,用于分片续传时使用
            sess.Set(uploadReq.FileName, uploadReq)
            sess.Set("currentFile", uploadReq)

            fmt.Fprintf(w, config.FmtStr, "1000", "success", "upload request success")
        }
    case "uploadCancel":
        {
            err = os.RemoveAll("./tmp/" + uploadReq.FileName)
            if err != nil {
                log.Fatal(err)
            }

            sess.Delete(uploadReq.FileName)
            fmt.Fprintf(w, config.FmtStr, "1000", "success", "upload file success")
            return
        }
    default:
        {
            fmt.Fprintf(w, config.FmtStr, "2000", "error", "upload request option error")
        }
    }

}

/* 分片上传功能实现 */
func Upload(w http.ResponseWriter, r *http.Request) {
    log.WithFields(log.Fields{
        "HTTP": r.Method,
        "FUNC": "Upload",
    }).Info("HTTP REQUEST")

    header := w.Header()
    header.Add("Content-Type", "application/json")

    /* session authentication */
    sess := globalSessions.SessionCheck(w, r) //session 检查的接口封装
    if sess == nil {
        log.Error("session check failed")
        fmt.Fprintf(w, config.FmtStr, "3000", "error", "session check failed")
        return
    }
    current_dir := sess.Get("current_dir")
    log.Info("current dir: ", current_dir)
    up_dir := sess.Get("up_dir")
    log.Info("up_dir: ", up_dir)

    // var current_dir string = "./river/test"
    /* 表单上传文件 */
    if r.Method == "GET" {
        crutime := time.Now().Unix()
        h := md5.New()
        io.WriteString(h, strconv.FormatInt(crutime, 10))
        token := fmt.Sprintf("%x", h.Sum(nil))

        t, _ := template.ParseFiles("upload.gtpl")
        t.Execute(w, token)
    } else {
        r.ParseMultipartForm(32  0; i-- {
                    if fileName[i] == '.' {
                        preFileName = fileName[:i] // 文件名前缀 test
                        sufFileName = fileName[i:] // 文件名后缀 .txt
                        fileNameFinal = []byte(string(preFileName) + "_" + time + string(sufFileName))
                        log.Info("fileNameFile: ", fileNameFinal)
                        break
                    }
                }

                fii, err = os.OpenFile(string(fileNameFinal), os.O_WRONLY|os.O_CREATE, 0777) // 此处假设当前目录下已存在test目录
            } else {
                fii, err = os.OpenFile(current_dir.(string)+uploadFileInfo.FileName, os.O_CREATE|os.O_WRONLY|os.O_APPEND, os.ModePerm)
            }
            defer fii.Close()

            if err != nil {
                log.Error(err)
                fmt.Fprintf(w, config.FmtStr, "3000", "error", "Open object file error")
                return
            }
            index, _ := strconv.Atoi(uploadFileInfo.ChunkNum)
            for i := 1; i 

以上就是《Go实现文件分片上传》的详细内容,更多关于golang的资料请关注golang学习网公众号!

版本声明
本文转载于:脚本之家 如有侵犯,请联系study_golang@163.com删除
Go语言包管理工具Godep的用法Go语言包管理工具Godep的用法
上一篇
Go语言包管理工具Godep的用法
Golang模块引入及表格读写业务快速实现示例
下一篇
Golang模块引入及表格读写业务快速实现示例
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • SuperCLUE中文大模型评测基准:功能、能力维度与应用指南
    SuperCLUE
    SuperCLUE是权威的中文大语言模型综合评测基准,涵盖语言理解、知识应用、AI Agent智能体及安全性等12项核心能力。通过多轮对话与客观测试,定期发布榜单与技术报告,为模型研发、优化及行业选型提供科学依据。
    144次使用
  • C-Eval中文评测基准:大语言模型多学科能力评估指南
    C-Eval
    深入了解C-Eval中文评估套件,涵盖52个学科与4级难度。本文详解其功能特点、Zero-shot/Few-shot使用方法及代码示例,助您全面评测LLM中文理解与泛化能力。
    65次使用
  • ClickPrompt:AI提示词生成与优化工具,支持Stable Diffusion、ChatGPT及代码辅助
    ClickPrompt
    ClickPrompt是一款专为AI提示词编写者设计的开源在线工具,支持Stable Diffusion绘图、ChatGPT对话及GitHub Copilot代码辅助。提供Prompt自动生成、一键运行、社区分享及可视化优化功能,帮助用户高效获取精准AI输出。
    35次使用
  • PromptHero官网:AI提示词搜索、优化与学习平台,支持Midjourney/Stable Diffusion
    PromptHero
    PromptHero是专业的AI提示词搜索引擎与优化平台,支持Stable Diffusion、Midjourney等主流模型。提供海量提示词库、分类搜索、在线课程及社区互动,助力用户高效生成高质量AI图像与文本。
    6次使用
  • OpenArt免费开源指南:Stable Diffusion Prompt Book提示词手册详解
    Stable Diffusion Prompt Book
    深入解析OpenArt推出的Stable Diffusion Prompt Book,这本免费的开源提示词指南涵盖从基础语法到高级技巧,提供风格化词库与参数建议,助您优化AI绘画生成效果。
    21次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议隐私政策
返回登录
  • 重置密码