Golang channel多生产者消费者模式示例

学习Golang要努力，但是不要急！今天的这篇文章《Golang channel多生产者消费者模式示例》将会介绍到等等知识点，如果你想深入学习Golang，可以关注我！我会持续更新相关文章的，希望对大家都能有所帮助！

Go语言中通过channel和goroutine实现多生产者多消费者模式，使用有缓冲channel传递任务，生产者并发发送任务，消费者从channel读取并处理，所有生产者完成后关闭channel，消费者在channel关闭后自动退出，配合sync.WaitGroup确保协程同步，避免资源竞争与泄漏。

在Go语言中，channel是实现多生产者多消费者模式的核心工具。通过goroutine和channel的配合，可以轻松构建高并发的任务处理系统。下面是一个典型的多生产者、多消费者的示例，并附带关键说明。

场景说明

完整示例代码

以下是一个使用channel实现多生产者多消费者的简单示例：

package main

import (
    "fmt"
    "math/rand"
    "sync"
    "time"
)

// 任务结构体
type Task struct {
    ID   int
    Data string
}

func producer(id int, tasks chan<- Task, wg *sync.WaitGroup) {
    defer wg.Done()
    for i := 0; i < 5; i++ {
        task := Task{
            ID:   i,
            Data: fmt.Sprintf("producer-%d-task-%d", id, i),
        }
        time.Sleep(time.Duration(rand.Intn(500)) * time.Millisecond) // 模拟随机生成时间
        tasks <- task
        fmt.Printf("Producer %d sent task: %s\n", id, task.Data)
    }
}

func consumer(id int, tasks <-chan Task, wg *sync.WaitGroup) {
    defer wg.Done()
    for task := range tasks { // 自动在channel关闭时退出循环
        time.Sleep(time.Duration(rand.Intn(800)) * time.Millisecond) // 模拟处理耗时
        fmt.Printf("Consumer %d processed task: %s\n", id, task.Data)
    }
    fmt.Printf("Consumer %d stopped.\n", id)
}

func main() {
    const numProducers = 3
    const numConsumers = 2
    const bufferSize = 10

    var wg sync.WaitGroup
    tasks := make(chan Task, bufferSize)

    // 启动生产者
    for i := 0; i < numProducers; i++ {
        wg.Add(1)
        go producer(i, tasks, &wg)
    }

    // 启动消费者
    for i := 0; i < numConsumers; i++ {
        wg.Add(1)
        go consumer(i, tasks, &wg)
    }

    // 等待所有生产者完成
    go func() {
        wg.Wait()
        close(tasks) // 所有生产者结束后关闭channel
    }()

    // 等待所有消费者完成（通过wg无法直接等待消费者，需用其他方式）
    // 这里使用额外的WaitGroup管理消费者
    var consumerWg sync.WaitGroup
    for i := 0; i < numConsumers; i++ {
        consumerWg.Add(1)
        go func(id int) {
            defer consumerWg.Done()
            consumer(id, tasks, &sync.WaitGroup{}) // 注意：这里不再参与主wg
        }(i)
    }

    // 改进方案：更好的做法是分离生产者和消费者的wg管理
    // 下面是修正后的完整流程
    fmt.Println("All producers and consumers started.")
    consumerWg.Wait()
    fmt.Println("All done.")
}

关键点解析

1. channel方向控制：使用`chan

2. 关闭channel的时机：必须由生产者方在所有goroutine结束后调用close(tasks)。不能由消费者关闭，否则可能引发panic。

3. 使用单独的goroutine等待生产者并关闭channel：避免死锁。主协程通过wg等待所有生产者完成，然后关闭channel，通知消费者结束。

4. 消费者如何退出：使用for task := range tasks，当channel被关闭且无剩余数据时，循环自动结束。

常见问题与改进建议

• 不要让多个生产者尝试关闭同一个channel，只能由一个角色（通常是生产者集合）在全部完成时关闭一次。
• 若任务量不确定，可结合context.Context实现超时或取消机制。
• 为提升性能，可根据消费速度调整buffer大小或消费者数量。
• 实际项目中可引入worker pool模式进一步优化资源利用。

基本上就这些。这个模式稳定、清晰，适用于日志收集、消息队列、爬虫任务分发等场景。

理论要掌握，实操不能落！以上关于《Golang channel多生产者消费者模式示例》的详细介绍，大家都掌握了吧！如果想要继续提升自己的能力，那么就来关注golang学习网公众号吧！