Go语言TCP长连接传输多个文件，为何文件内容会被合并写入？

本文针对Go语言TCP长连接传输多个文件时，所有文件内容合并写入同一个文件的常见问题，进行了深入分析并提供了有效的解决方案。由于TCP协议本身不区分数据块，导致发送端连续发送多个文件数据，接收端无法识别文件边界，从而将所有数据写入同一个文件。文章详细阐述了问题根源，并提出了两种解决方案：一是添加文件长度前缀，接收端根据长度读取数据；二是使用自定义协议或JSON格式，明确标识每个文件。这两种方法分别适用于不同复杂度的场景，文章并附带了改进后的代码示例，帮助开发者解决Go语言TCP长连接多文件传输的难题。

Go语言TCP长连接：多文件传输导致文件合并问题分析及解决方案

本文分析了使用Go语言进行TCP长连接传输多个文件时，所有文件内容合并写入同一个文件的现象，并提供了解决方案。

问题描述:

在Go语言中，使用TCP长连接从服务器A向服务器B传输多个文件时，所有文件内容都被写入到服务器B的同一个文件中，而非各自独立的文件。

代码示例 (已简化):

发送端:

package main

import (
    "fmt"
    "io"
    "log"
    "net"
    "os"
)

func main() {
    conn, err := net.Dial("tcp", ":9900")
    if err != nil {
        log.Fatal(err)
    }
    defer conn.Close()

    files := []string{"./file/1.jpg", "./file/2.jpg"}
    for _, file := range files {
        f, err := os.Open(file)
        if err != nil {
            log.Fatal(err)
        }
        defer f.Close()
        io.Copy(conn, f) // 直接复制文件内容到连接
    }
}

接收端: (问题代码)

package main

import (
    "fmt"
    "io"
    "log"
    "net"
    "os"
)

func main() {
    listener, err := net.Listen("tcp", ":9900")
    if err != nil {
        log.Fatal(err)
    }
    defer listener.Close()

    for {
        conn, err := listener.Accept()
        if err != nil {
            log.Fatal(err)
        }
        go handleConnection(conn)
    }
}

func handleConnection(conn net.Conn) {
    defer conn.Close()
    f, err := os.OpenFile("./tmp/merged.jpg", os.O_CREATE|os.O_WRONLY|os.O_APPEND, 0666) // 错误：所有数据写入同一个文件
    if err != nil {
        log.Fatal(err)
    }
    defer f.Close()
    io.Copy(f, conn)
}

问题根源:

TCP是一种面向字节流的协议，它不提供任何内置机制来区分传输的数据块属于哪个文件。发送端连续发送文件数据，接收端也连续接收，导致所有数据被视为一个整体写入到同一个文件中。

解决方案:

需要在应用层添加协议来标识文件边界。以下提供两种常见方法：

方法一：添加文件长度前缀

在发送每个文件之前，先发送一个表示文件长度的整数（例如，使用binary.Write写入文件大小）。接收端读取这个长度，然后读取相应长度的数据，即可区分不同的文件。

改进后的代码 (示例):

发送端:

import (
    "encoding/binary"
    // ... other imports
)

// ... other functions

for _, file := range files {
    // ... open file
    fileInfo, _ := f.Stat()
    fileSize := fileInfo.Size()
    binary.Write(conn, binary.BigEndian, fileSize) // 发送文件大小
    io.Copy(conn, f)
}

接收端:

import (
    "encoding/binary"
    // ... other imports
)

// ... other functions

var fileSize int64
binary.Read(conn, binary.BigEndian, &fileSize) // 读取文件大小
f, err := os.Create(fmt.Sprintf("./tmp/%d.jpg", fileCounter)) // 为每个文件创建新文件
if err != nil {
    log.Fatal(err)
}
io.CopyN(f, conn, fileSize) // 读取指定长度的数据
f.Close()
fileCounter++

方法二：使用自定义协议或JSON

定义一个更复杂的协议，例如使用JSON格式，每个JSON对象包含文件名和文件内容（可以使用Base64编码）。接收端解析JSON，根据文件名创建文件，并写入解码后的文件内容。 这更灵活，但实现更复杂。

选择哪种方法取决于项目的复杂性和需求。 对于简单的场景，方法一就足够了；对于更复杂的场景，方法二可能更适合。 记住始终处理潜在的错误，例如网络错误和文件I/O错误。

今天关于《Go语言TCP长连接传输多个文件，为何文件内容会被合并写入？》的内容介绍就到此结束，如果有什么疑问或者建议，可以在golang学习网公众号下多多回复交流；文中若有不正之处，也希望回复留言以告知！