当前位置:首页 > 文章列表 > 科技周边 > 人工智能 > Agent 工具返回文件路径时如何限制工作区范围

Agent 工具返回文件路径时如何限制工作区范围

来源:17golang原创 2026-09-15 11:45:08 0浏览 收藏

Agent 调用文件工具时,工具返回的路径不能直接交给 open() 或系统命令。稳妥做法是把工作区根目录当成唯一信任边界:工具只返回相对路径,服务端再解析、规范化并确认结果仍在根目录内,最后才执行读写。这样既能挡住 ../ 目录穿越,也能处理指向工作区外部的符号链接。

参考实现地址:https://openai.github.io/openai-agents-python/sandbox/guide/

要点速览
  • 工作区范围是运行时策略,不是提示词里的一句“请勿越界”。
  • Path.resolve() 后再做目录包含判断,才能同时覆盖 .. 和符号链接。
  • 校验失败要在文件打开前返回结构化错误,并保留原始输入供审计。

Agent 返回的路径,先分清“标识”还是“主机路径”

工具协议最好约定返回 workspace-relative-path,例如 reports/today.json,而不是 /Users/alice/project/reports/today.json。相对路径由服务端绑定到当前运行的工作区;同一个 Agent 任务换到容器或远程沙箱时,路径语义也不会跟着主机目录泄漏。

如果确实需要返回绝对路径,也应把它当作不可信输入重新解析,不能因为它“看起来已经在项目目录下”就放行。路径校验和工具权限是两层策略:前者回答“能不能指向这里”,后者还要回答“能不能读、写或执行”。

输入形态默认处理原因
reports/today.json解析后检查允许的工作区相对标识
../secrets.env拒绝规范化后离开根目录
/etc/hosts拒绝绕过工作区绑定
cache/link解析后检查符号链接可能指向外部

用规范路径判断是否还在工作区内

Python 的 Path.resolve() 会消除 .. 并解析符号链接;随后用 relative_to() 判断候选路径是否能表示成工作区根目录下的相对路径。不要只用字符串前缀比较:/srv/app2 可能会被错误地当成 /srv/app 的子目录。

from pathlib import Path

def resolve_workspace_path(workspace: Path, returned: str) -> Path:
    # 返回值来自 Agent,先拒绝空值和主机绝对路径。
    if not returned or Path(returned).is_absolute():
        raise ValueError("path must be a non-empty relative path")

    root = workspace.resolve(strict=True)
    candidate = (root / returned).resolve(strict=False)
    try:
        candidate.relative_to(root)
    except ValueError as exc:
        # 统一拒绝 .. 和指向根目录外的符号链接。
        raise PermissionError("path is outside workspace") from exc
    return candidate

这里的 strict=False 适合“准备创建新文件”的场景:父级路径仍会被解析,末尾不存在的文件名可以保留。若工具只允许读取已有文件,可改用 strict=True,让不存在文件直接失败。无论哪种模式,都要在 open()、上传、删除或交给 shell 之前完成检查。

Agent 工具路径解析中工作区根目录、相对路径、规范化路径和越界拒绝的静态关系示意图
图1:工作区边界示意图;相对路径经过规范化后,只有落在根目录内的候选才能进入文件操作层。

只检查字符串还不够:符号链接和竞态要单独处理

展示词法路径、真实符号链接目标、竞态风险和安全文件 API 之间的静态关系
图2:符号链接校验示意图;词法路径可能仍在工作区文字范围内,解析真实目标后才能决定是否放行。

PurePath.relative_to() 属于词法判断,本身不会访问文件系统;因此必须对真实路径使用 Path.resolve()。例如 workspace/cache/link 文字上位于根目录下,但 link 如果指向 /var/log,解析后的候选就必须拒绝。

对高风险写入,还要考虑“检查后到打开前”的竞态:攻击者可能在两次操作之间替换目录或链接。更严的实现会使用目录文件描述符、openat 或平台提供的 O_NOFOLLOW 等能力,并让运行账户只拥有工作区所需权限。普通业务至少应避免把校验后的字符串交给 shell 拼接命令。

def open_workspace_text(workspace: Path, returned: str) -> str:
    # 先完成边界校验,再以只读方式打开;不把路径拼进 shell 命令。
    safe_path = resolve_workspace_path(workspace, returned)
    if not safe_path.is_file():
        raise FileNotFoundError("workspace file is not a regular file")
    return safe_path.read_text(encoding="utf-8")

用拒绝清单验证工具契约

验证时不要只测一个正常文件。至少覆盖空字符串、绝对路径、父级穿越、混合分隔符、工作区外符号链接和不存在的新文件。每次拒绝都返回稳定的错误码,例如 PATH_OUTSIDE_WORKSPACE,不要把主机绝对路径、环境变量或密钥片段回显给模型。

检查项期望结果
相对文件 docs/a.md允许,并绑定到当前 workspace
../a.md 或绝对路径拒绝并记录原因
工作区内链接指向外部拒绝规范化后的目标
不存在的子文件写入工具可允许,读取工具拒绝

最后再检查权限矩阵:读取、写入、删除和执行不应共用一个“路径通过”开关。工作区限制解决的是范围问题,最小权限解决的是动作问题,两者缺一不可。

相关问题

为什么不能只禁止字符串 ..

编码、分隔符和符号链接都可能改变最终目标。应以规范化后的真实路径做边界判断,而不是依赖单个黑名单字符串。

相对路径是否天然安全?

不是。相对路径仍可能通过父级目录或链接离开工作区,所以必须绑定根目录并解析后检查。

校验通过后能否直接交给 shell?

不建议。文件路径边界与命令注入是不同问题;优先调用文件 API,必须执行命令时使用参数数组和独立的命令白名单。

版本声明
本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
Go TLS 证书 IP 地址校验失败时如何读 SANGo TLS 证书 IP 地址校验失败时如何读 SAN
上一篇
Go TLS 证书 IP 地址校验失败时如何读 SAN
Go net/url JoinPath 如何避免路径双斜杠
下一篇
Go net/url JoinPath 如何避免路径双斜杠
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • PubMedQA数据集详解:生物医学问答基准、功能与应用指南
    PubMedQA
    深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
    31次使用
  • H2O EvalGPT:开源LLM大模型评估与排行榜工具
    H2O EvalGPT
    H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
    135次使用
  • LMArena是什么?伯克利AI模型评估平台使用指南与功能解析
    LMArena
    LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
    71次使用
  • 斯坦福HELM:大语言模型Holistic Evaluation整体评估框架详解
    HELM
    深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
    27次使用
  • CMMLU中文大模型评估基准:功能、使用教程与应用场景解析
    CMMLU
    深入了解CMMLU中文评估基准,涵盖67个学科主题,提供数据集下载、Zero-shot/Five-shot评估方法及排行榜,助力优化中文语言模型性能。
    17次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议隐私政策
返回登录
  • 重置密码