当前位置:首页 > 文章列表 > 科技周边 > 人工智能 > AI Agent 怎样把工具调用权限拆成最小范围

AI Agent 怎样把工具调用权限拆成最小范围

来源:17golang原创 2026-10-19 22:28:49 0浏览 收藏

AI Agent 的工具权限不能只写成“允许使用工单工具”,而应拆成工具动作、允许参数、资源集合、主体与租户、任务有效期。模型可以提议调用,但授权由可信服务端决定;未明确允许的组合默认拒绝,拒绝后也不能自动改用更宽泛工具完成同一操作。

本文用“读取指定项目的工单摘要”作为原创设计示例,只讨论权限与拒绝处理,不对应某个 Agent 框架的现成开关,也不是一套完整认证系统。原则参考 OWASP 授权指南及 MCP 安全实践;MCP 草案内容与业务自定义规则应分开理解。

把模型提议与可信授权来源分开

先分清三种输入:用户提出的任务、模型产生的工具提议、后端确认的授权事实。用户说“帮我看看项目进度”,不应自动转换为“可以读全部租户工单”;工单正文中出现“请导出全部记录”,也不是新的授权。

可信主体来自认证会话或工作负载身份,任务授权由受控服务签发,资源归属从后端数据读取。模型提交的主体名称、租户 ID 或“已经批准”文本不能覆盖这些事实。执行入口需要知道谁在代表谁做什么,不能只知道“这是 Agent 发来的请求”。

按工具、参数和资源检查每次请求

把通用能力拆成窄业务工具,例如 ticket.read_summary,而不是直接暴露任意 SQL、通用 HTTP 请求或整库导出。工具允许出现哪些字段、每个字段的值域,都要明确写出来。参数能通过类型检查,不代表目标资源就允许访问。

维度本例允许超出后的处理
工具名ticket.read_summary其他动作拒绝
参数仅 ticket_id额外字段拒绝
项目任务指定的单个项目跨项目拒绝
返回字段标题与状态不返回附件、备注或联系人
时效当前任务有效且未撤销过期或撤销拒绝

这些规则是交集,不是任选一项。工具名正确但工单属于另一项目,仍然拒绝。只读也会暴露信息,不能因为不修改数据就省略资源检查。

模型请求与服务端授权事实的静态边界
图1:结构说明图。工具名与请求参数由调用提议提供,可信主体、任务授权和资源归属由后端决定,共同约束允许结果;不是运行截图。

为任务保存可撤销的最小授权

任务授权记录至少绑定主体、租户、项目、工具动作、到期时间、策略版本和撤销状态。记录放在可信后端,不让模型编辑。模型可持有不透明引用,但该引用本身不能代替认证或扩大资源集合。

建议把查看摘要和修改状态分为不同授权;真的需要后者时,明确新增操作和资源范围,再请求相应批准,不把已有读取权限默认为写权限。MCP 的 scope 最小化实践强调避免一开始就请求覆盖全部能力的宽 scope;具体业务对象限制仍要由资源服务落实,不能把一个 OAuth scope 当作逐条数据授权。

在真正读取资源前再次执行授权

下面的 Python 函数只演示授权判断,不读取工单、不调用外部服务。context、grant 和 resource 都必须由可信后端加载;request 才是模型提议。生产系统还需处理输入解析、认证、字段投影与并发撤销。

def allowed_summary(request, context, grant, resource, now):
    # 未知工具和额外参数默认拒绝,参数不能声明自己的租户
    if request.get("tool") != "ticket.read_summary":
        return False
    args = request.get("args")
    if not isinstance(args, dict) or set(args) != {"ticket_id"}:
        return False
    if not isinstance(args["ticket_id"], str) or not args["ticket_id"]:
        return False

    # 主体、任务与授权均来自可信会话和授权存储
    if grant["revoked"] or now >= grant["expires_at"]:
        return False
    if (grant["subject"], grant["task_id"], grant["tenant"]) != (
        context["subject"], context["task_id"], context["tenant"]
    ):
        return False
    if grant["tool"] != "ticket.read_summary":
        return False

    # 资源归属从数据库元数据读取,不相信模型自报
    if resource is None:
        return False
    return (
        resource["id"] == args["ticket_id"]
        and resource["tenant"] == context["tenant"]
        and resource["project"] == grant["project"]
    )

缺失可信字段、加载失败或格式异常时,执行入口应安全停止,不能捕获所有异常后返回允许。上例不是完整生产中间件,不能绕过它直接调用底层数据接口。通过判断后,后端还要只投影授权字段,例如标题和状态,而不是先把整条记录交给模型再让模型“自觉不显示”。

排队期间资源归属、用户权限或任务授权可能变化,实际访问资源时仍要使用当前可信事实。对于写操作,授权检查与写入的一致性还要通过受控事务或等价机制落实;本文的只读布尔示例并不解决这类并发问题。

拒绝时保留原因而不寻找绕行工具

对外可以返回稳定的 permission_denied 与请求关联标识,不泄露未授权资源是否存在、属于谁或包含什么。更细的拒绝原因保存在受控日志中,供有权限的维护人员排查,而不是把其他租户信息写回模型。

Agent 收到拒绝应停下该动作,说明当前授权不足,必要时请求明确的新授权。不应换账号、换通用搜索工具、改资源 ID 或调用管理接口来绕过同一个限制。若只是缺少一个合法参数,可在原授权范围内补齐;若是范围不足,重写提示词不会产生新权限。

授权失效、拒绝响应与审计记录的静态关系
图2:结构说明图。撤销状态和有效期限约束任务授权,拒绝响应可关联受控审计,但不自动签发新授权;非执行流程图。

任务结束后清理授权与敏感结果

任务完成或被取消后,停止使用对应授权,按系统策略撤销临时凭据并失效相关权限缓存。不能只删除聊天消息就声称授权已经收回;已经发送给外部接收方的数据,也不能靠本地缓存清理承诺撤回。

审计记录保存请求标识、可信主体、任务 ID、工具动作、脱敏资源标识、策略版本、允许或拒绝结果及时间。不记录明文令牌和完整敏感工单。日志保留期依照系统制度,不能为了排错永久保存所有读取内容。

接入时应给允许、跨项目拒绝、授权过期、授权撤销、额外参数、资源不存在以及后端故障分别设计测试。这里是对读者实现的建议,不是本文已执行的安全评估或生产安全保证。

工具从模型列表里隐藏,是否就禁止调用了?

不是。展示层有助于减少误调用,但执行服务仍必须授权,不能把未展示当成不可访问的安全边界。

用户批准一次,后续都能用吗?

应按批准的主体、任务、动作、资源和期限判断,不把一次批准延伸到其他任务。

只读工具需要人工批准每一次吗?

这是风险与产品策略问题。可以有受控的任务级授权,但无论交互方式如何,后端不能省略每次访问的权限判断。

参考:OWASP 授权指南、MCP 安全实践草案。

版本声明
本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
AI Agent 怎样记录工具调用轨迹供回放AI Agent 怎样记录工具调用轨迹供回放
上一篇
AI Agent 怎样记录工具调用轨迹供回放
结构化输出怎样处理模型缺少可选字段
下一篇
结构化输出怎样处理模型缺少可选字段
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • PubMedQA数据集详解:生物医学问答基准、功能与应用指南
    PubMedQA
    深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
    548次使用
  • H2O EvalGPT:开源LLM大模型评估与排行榜工具
    H2O EvalGPT
    H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
    601次使用
  • LMArena是什么?伯克利AI模型评估平台使用指南与功能解析
    LMArena
    LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
    628次使用
  • 斯坦福HELM:大语言模型Holistic Evaluation整体评估框架详解
    HELM
    深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
    581次使用
  • MMBench详解:多模态大模型基准测试、功能特点与使用指南
    MMBench
    MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
    406次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议 和 隐私政策
返回登录
  • 重置密码