golang 实现一个负载均衡案例(随机,轮训)
亲爱的编程学习爱好者,如果你点开了这篇文章,说明你对《golang 实现一个负载均衡案例(随机,轮训)》很感兴趣。本篇文章就来给大家详细解析一下,主要介绍一下随机、负载均衡、轮训,希望所有认真读完的童鞋们,都有实质性的提高。
今天用go实现一个简单的负载均衡的算法,虽然简单,还是要写一下。
1.首先就是服务器的信息
package balance
type Instance struct {
host string
port int
}
func NewInstance(host string, port int) *Instance {
return &Instance{
host: host,
port: port,
}
}
func (p *Instance) GetHost() string {
return p.host
}
func (p *Instance) GetPort() int {
return p.port
}
2.接着定义接口
package balance
type Balance interface {
/**
*负载均衡算法
*/
DoBalance([] *Instance,...string) (*Instance,error)
}
3.接着,是实现接口,random.go
package balance
import (
"errors"
"math/rand"
)
func init() {
RegisterBalance("random",&RandomBalance{})
}
type RandomBalance struct {
}
func (p *RandomBalance) DoBalance(insts [] *Instance,key...string) (inst *Instance, err error) {
if len(insts) == 0 {
err = errors.New("no instance")
return
}
lens := len(insts)
index := rand.Intn(lens)
inst = insts[index]
return
}
roundrobin.go
package balance
import (
"errors"
)
func init() {
RegisterBalance("round", &RoundRobinBalance{})
}
type RoundRobinBalance struct {
curIndex int
}
func (p *RoundRobinBalance) DoBalance(insts [] *Instance, key ...string) (inst *Instance, err error) {
if len(insts) == 0 {
err = errors.New("no instance")
return
}
lens := len(insts)
if p.curIndex >= lens {
p.curIndex = 0
}
inst = insts[p.curIndex]
p.curIndex++
return
}
4 然后,全部交给管理器来管理,这也是为什么上面的文件全部重写了init函数
package balance
import (
"fmt"
)
type BalanceMgr struct {
allBalance map[string]Balance
}
var mgr = BalanceMgr{
allBalance: make(map[string]Balance),
}
func (p *BalanceMgr) registerBalance(name string, b Balance) {
p.allBalance[name] = b
}
func RegisterBalance(name string, b Balance) {
mgr.registerBalance(name, b)
}
func DoBalance(name string, insts []*Instance) (inst *Instance, err error) {
balance, ok := mgr.allBalance[name]
if !ok {
err = fmt.Errorf("not fount %s", name)
fmt.Println("not found ",name)
return
}
inst, err = balance.DoBalance(insts)
if err != nil {
err = fmt.Errorf(" %s erros", name)
return
}
return
}
下面进行测试:
func main() {
var insts []*balance.Instance
for i := 0; i 1 {
name = os.Args[1]
}
for {
inst, err := balance.DoBalance(name, insts)
if err != nil {
fmt.Println("do balance err")
time.Sleep(time.Second)
continue
}
fmt.Println(inst)
time.Sleep(time.Second)
}
}
5.如果想扩展这个,又不入侵原来的代码结构,可以类比上面实现dobalance接口即可
package add
import (
"awesomeProject/test/balance"
"fmt"
"math/rand"
"hash/crc32"
)
func init() {
balance.RegisterBalance("hash", &HashBalance{})
}
type HashBalance struct {
key string
}
func (p *HashBalance) DoBalance(insts [] *balance.Instance, key ...string) (inst *balance.Instance, err error) {
defKey := fmt.Sprintf("%d", rand.Int())
if len(key) > 0 {
defKey = key[0]
}
lens := len(insts)
if lens == 0 {
err = fmt.Errorf("no balance")
return
}
hashVal := crc32.Checksum([]byte(defKey), crc32.MakeTable(crc32.IEEE))
index := int(hashVal) % lens
inst = insts[index]
return
}
这样就能交给管理器统一管理了,而且不会影响原来的api。
补充:golang grpc配合nginx实现负载均衡
概述
grpc负载均衡有主要有进程内balance, 进程外balance, proxy 三种方式,本文叙述的是proxy方式,以前进程内的方式比较流行,靠etcd或者consul等服务发现来轮询,随机等方式实现负载均衡。
现在nginx 1.13过后正式支持grpc, 由于nginx稳定,高并发量,功能强大,更难能可贵的是部署方便,并且不像进程内balance那样不同的语言要写不同的实现,因此我非常推崇这种方式。
nginx的配置
确认安装版本大于1.13的nginx后打开配置文件,写入如下配置
upstream lb{
#负载均衡的grpc服务器地址
server 127.0.0.1:50052;
server 127.0.0.1:50053;
server 127.0.0.1:50054;
#keepalive 500;#这个东西是nginx和rpc服务器群保持长连接的总数,设置可以提高效率,同时避免nginx到rpc服务器之间默认是短连接并发过后造成time_wait过多
}
server {
listen 9527 http2;
access_log /var/log/nginx/host.access.log main;
http2_max_requests 10000;#这里默认是1000,并发量上来会报错,因此设置大一点
#grpc_socket_keepalive on;#这个东西nginx1.5过后支持
location / {
grpc_pass grpc://lb;
error_page 502 = /error502grpc;
}
location = /error502grpc {
internal;
default_type application/grpc;
add_header grpc-status 14;
add_header grpc-message "Unavailable";
return 204;
}
}
可以在host.access.log日志文件里面看到数据转发记录
proto文件:
syntax = "proto3"; // 指定proto版本
package grpctest; // 指定包名
// 定义Hello服务
service Hello {
// 定义SayHello方法
rpc SayHello(HelloRequest) returns (HelloReply) {}
}
// HelloRequest 请求结构
message HelloRequest {
string name = 1;
}
// HelloReply 响应结构
message HelloReply {
string message = 1;
}
客户端:
客户端连接地址填写nginx的监听地址,相关代码如下:
package main
import (
pb "protobuf/grpctest" // 引入proto包
"golang.org/x/net/context"
"google.golang.org/grpc"
"google.golang.org/grpc/grpclog"
"fmt"
"time"
)
const (
// Address gRPC服务地址
Address = "127.0.0.1:9527"
)
func main() {
// 连接
conn, err := grpc.Dial(Address, grpc.WithInsecure())
if err != nil {
grpclog.Fatalln(err)
}
defer conn.Close()
// 初始化客户端
c := pb.NewHelloClient(conn)
reqBody := new(pb.HelloRequest)
reqBody.Name = "gRPC"
// 调用方法
for{
r, err := c.SayHello(context.Background(), reqBody)
if err != nil {
grpclog.Fatalln(err)
}
fmt.Println(r.Message)
time.Sleep(time.Second)
}
}
服务端:
package main
import (
"net"
"fmt"
pb "protobuf/grpctest" // 引入编译生成的包
"golang.org/x/net/context"
"google.golang.org/grpc"
"google.golang.org/grpc/grpclog"
)
const (
// Address gRPC服务地址
Address = "127.0.0.1:50052"
//Address = "127.0.0.1:50053"
//Address = "127.0.0.1:50054"
)
var HelloService = helloService{}
type helloService struct{}
func (this helloService) SayHello(ctx context.Context,in *pb.HelloRequest)(*pb.HelloReply,error){
resp := new(pb.HelloReply)
resp.Message = Address+" hello"+in.Name+"."
return resp,nil
}
func main(){
listen,err:=net.Listen("tcp",Address)
if err != nil{
grpclog.Fatalf("failed to listen: %v", err)
}
s:=grpc.NewServer()
pb.RegisterHelloServer(s,HelloService)
grpclog.Println("Listen on " + Address)
s.Serve(listen)
}
测试
以50052,50053,50054 3个端口启3个服务端进程,运行客户端代码,即可看见如下效果:

负载均衡完美实现, 打开日志文件,可以看到post的地址为 /grpctest.Hello/SayHello,nginx配置为所有请求都按默认 localtion / 转发,因此 nginx再配上合适的路由规则,还可实现更灵活转发,也可达到微服务注册的目的,非常方便。
以上为个人经验,希望能给大家一个参考,也希望大家多多支持golang学习网。如有错误或未考虑完全的地方,望不吝赐教。
终于介绍完啦!小伙伴们,这篇关于《golang 实现一个负载均衡案例(随机,轮训)》的介绍应该让你收获多多了吧!欢迎大家收藏或分享给更多需要学习的朋友吧~golang学习网公众号也会发布Golang相关知识,快来关注吧!
Go 实现HTTP中间人代理的操作
- 上一篇
- Go 实现HTTP中间人代理的操作
- 下一篇
- golang 实现一个restful微服务的操作
-
- 悲凉的酒窝
- 这篇文章出现的刚刚好,太详细了,很好,已加入收藏夹了,关注楼主了!希望楼主能多写Golang相关的文章。
- 2023-01-21 09:16:15
-
- 柔弱的水杯
- 这篇博文太及时了,细节满满,很有用,已收藏,关注作者大大了!希望作者大大能多写Golang相关的文章。
- 2023-01-11 08:34:22
-
- Golang · Go教程 | 18分钟前 | 解析器 种子语料 testing.F f.Add Go fuzzing
- Go fuzzing 怎样为解析器设计最小种子
- 499浏览 收藏
-
- Golang · Go教程 | 19分钟前 |
- Go benchmark 怎样用报告指标识别分配热点
- 177浏览 收藏
-
- Golang · Go教程 | 22分钟前 |
- Go 测试 Cleanup 怎样让子测试各自释放资源
- 317浏览 收藏
-
- Golang · Go教程 | 22分钟前 |
- Go 子测试 Parallel 怎样避免共享状态竞争
- 295浏览 收藏
-
- Golang · Go教程 | 26分钟前 |
- Go testing.T Setenv 怎样隔离环境变量测试
- 280浏览 收藏
-
- Golang · Go教程 | 27分钟前 |
- Go testing.T.Log 怎样保留并发子测试的诊断上下文
- 193浏览 收藏
-
- Golang · Go教程 | 31分钟前 |
- Go io/fs.Sub 怎样挂载子目录并保持相对路径
- 486浏览 收藏
-
- Golang · Go教程 | 35分钟前 |
- Go os.Rename 怎样实现同目录文件替换
- 285浏览 收藏
-
- Golang · Go教程 | 35分钟前 |
- Go os.ReadDir 按名称读取目录条目的实现方式
- 388浏览 收藏
-
- Golang · Go教程 | 40分钟前 |
- Go os.OpenRoot 怎样限制文件访问根目录
- 184浏览 收藏
-
- Golang · Go教程 | 43分钟前 | Go教程 · 文件系统 · Go io/fs DirEntry FileInfoToDirEntry 文件系统接口
- Go fs.FileInfoToDirEntry 怎样适配目录条目接口
- 389浏览 收藏
-
- Golang · Go教程 | 43分钟前 | 相对路径 Go io/fs fs.ValidPath Localize
- Go fs.ValidPath 怎样判断相对路径是否合法
- 426浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- PubMedQA
- 深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
- 592次使用
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 629次使用
-
- LMArena
- LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
- 661次使用
-
- HELM
- 深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
- 631次使用
-
- MMBench
- MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
- 446次使用
-
- Go实现快速生成固定长度的随机字符串
- 2023-02-24 432浏览
-
- Golang项目搭配nginx部署反向代理负载均衡讲解
- 2023-01-01 131浏览
-
- 使用Golang实现加权负载均衡算法的实现代码
- 2022-12-29 481浏览
-
- Golang加权轮询负载均衡的实现
- 2023-01-25 149浏览
-
- Golang实现四种负载均衡的算法(随机,轮询等)
- 2023-01-07 205浏览

