WorkBuddy模型切换实现无感操作

本文深入解析了在WorkBuddy框架中如何通过纯代码层实现模型的无感切换——无需前端UI干预，即可让插件或自定义技能在运行时智能、透明地调用最适配的AI模型：通过构建模型路由转发中间件动态匹配任务需求，封装ModelProxy代理类统一抽象各异构API，借助Skill生命周期钩子无缝注入转发逻辑，并支持JSON策略文件热更新调度规则，真正实现“一次接入、多模协同、用户无感”的高阶模型编排能力，为开发者提供稳定、灵活且可运维的底层模型治理方案。

如果您在开发 WorkBuddy 插件或自定义技能时需实现模型切换的底层控制，但不希望用户感知切换过程，则需绕过前端 UI 交互，直接在代码层构建统一转发逻辑。以下是实现该目标的具体方法：

一、构建模型路由转发中间件

该中间件作为请求分发中枢，接收原始用户指令，根据预设策略（如任务类型、上下文长度、模型能力标签）自动选择最优模型，并将请求透传至对应后端服务，全程对上层 Skill 或 Agent 无感。

1、在 WorkBuddy 插件工程的 src/middleware/model-router.ts 中创建路由类，继承 BaseMiddleware 接口。

2、定义模型能力元数据映射表，例如：{"long-context": ["Kimi-Long", "GLM-4-Air"], "code-gen": ["DeepSeek-V3", "Qwen2.5-Coder"]}，每个键为能力标签，值为支持该能力的模型 ID 列表。

3、重写 handle(request: Request) 方法，在其中解析 request.context.taskType 与 request.input.length，匹配最适配模型 ID。

4、调用 ModelProxy.getInstance().forward(request, selectedModelId) 完成透传，禁止修改 request.id 或 response.id 字段以维持会话一致性。

二、封装统一模型代理类（ModelProxy）

该类屏蔽各模型 API 协议差异，提供标准化的调用接口，使转发层无需关心底层鉴权方式、URL 格式或响应结构，确保切换行为完全透明。

1、在 src/proxy/model-proxy.ts 中声明单例 ModelProxy 类，内部维护 Map 缓存已初始化的客户端实例。

2、为每类模型实现 IModelClient 接口，包括 init(config)（加载密钥与 Base URL）、invoke(payload)（统一封装为 OpenAI 兼容格式并发送）、parseResponse(raw)（提取 content 字段并还原 streaming chunk 结构）。

3、在 forward() 方法中，若目标模型客户端未初始化，则依据其配置自动调用 init()；否则复用已有实例，避免重复鉴权开销。

4、所有模型响应必须经 normalizeResponse() 统一处理：强制补全 "model": "selected-model-id" 字段，并保持 "id" 与原始 request.id 一致。

三、注入转发层至 Skill 执行链

通过 WorkBuddy 提供的 Skill 生命周期钩子，在请求进入 Skill 处理器前插入模型路由逻辑，确保所有 Skill 调用均经过统一调度，无需修改原有业务代码。

1、在插件主入口文件 index.ts 中，调用 SkillRegistry.registerMiddleware(new ModelRouter()) 注册中间件。

2、确认该注册发生在 SkillRegistry.registerSkill() 之前，以保证中间件优先捕获请求。

3、在 Skill 的 execute() 方法内，直接使用 this.ctx.llm.invoke(prompt)，无需指定模型参数——实际调用由转发层动态绑定。

4、验证日志输出中是否出现 "ROUTED_TO: GLM-4-Flash via ModelRouter" 类似标记，确认中间件已生效且未被跳过。

四、配置模型能力标签与调度策略

该步骤决定转发层如何智能选型，策略定义于 JSON 配置文件，运行时热加载，无需重启插件即可调整模型分配逻辑。

1、在插件资源目录下创建 config/model-strategy.json，包含字段 "default"（兜底模型）、"rules"（数组，每项含 match、model、priority）。

2、示例 rule：{"match": {"taskType": "summarize", "inputLength": ">8192"}, "model": "Kimi-Long", "priority": 90}。

3、在 ModelRouter 初始化时读取该文件，构建内存规则树；每次路由前按 priority 降序遍历，首个 match 成功者即为选定模型。

4、修改配置后执行 WorkBuddy CLI reload --plugin my-plugin 触发热更新，验证新策略是否立即生效。

文中关于的知识介绍，希望对你的学习有所帮助！若是受益匪浅，那就动动鼠标收藏这篇《WorkBuddy模型切换实现无感操作》文章吧，也可关注golang学习网公众号了解相关技术文章。