当前位置:首页 > 文章列表 > 科技周边 > 人工智能 > spaCy 怎样给连续词元构造带标签的Span

spaCy 怎样给连续词元构造带标签的Span

来源:17golang原创 2026-10-31 07:27:44 0浏览 收藏

在 spaCy 里,连续词元构造带标签的 Span,关键是把 Doc 的半开区间 [start, end) 传给 Span 构造器,再用 label 绑定业务标签。也就是说,start 对应第一个要包含的词元,end 对应第一个不包含的词元;不要把它当成最后一个词元的下标。

官方地址:https://spacy.io/api/span

要点速览
  • Span(doc, start, end, label="ORG") 表示从 start 到 end 之前的连续词元。
  • 标签既可以传可读字符串,也可以按 spaCy API 允许的形式传入整数标识。
  • 构造前应检查区间是否为空、是否越过 Doc 边界,以及标签是否符合当前管线约定。

一、先把 Doc 切片和 Span 放在同一张图里

把一句文本看成一个带编号的 Doc,例如词元依次是 OpenAI、发布、GPT、模型。取 [1, 3) 得到的是“发布”和“GPT”,因为左边界包含,右边界排除。这个约定与 Python 切片一致,也方便连续区间首尾相接。

spaCy Doc、连续词元区间、Span 和标签之间的关系说明图
图1:Doc 切片到带标签 Span 的关系说明图,展示半开区间和标签绑定;这是原创结构说明图,不是运行截图。
import spacy
from spacy.tokens import Span

# 创建最小英文管线;只依赖分词结果,不要求加载实体识别模型
nlp = spacy.blank("en")
doc = nlp("OpenAI 发布 GPT 模型")

# [1, 3) 包含下标 1 和 2,不包含下标 3
start, end = 1, 3
span = Span(doc, start, end)

print(span.text)       # 发布 GPT
print(span.start)      # 1
print(span.end)        # 3

这里的 Span 是从父 Doc 上截取的一段视图。它保留了起止位置和文本关系,后续可以读取 text、start、end 等属性。区间语义先理清,后面加标签时就不容易出现“少选一个词”或“多选一个词”的偏移。

二、用 Span 构造器把标签绑定到连续词元

需要把这段文字当作某类业务对象时,把标签传给构造器即可。标签最好使用项目中稳定、可读的枚举约定,例如 PRODUCT、ORG 或 LOCATION,这样后续序列化和规则判断更直观。

from spacy.tokens import Span

# 选择 GPT 模型这一段,并声明它属于 PRODUCT 类别
product_span = Span(doc, 2, 4, label="PRODUCT")

# label_ 是可读的字符串标签;label 是 spaCy 内部的整数标识
print(product_span.text)      # GPT 模型
print(product_span.label_)    # PRODUCT
print(product_span.label)     # 一个由 spaCy 管理的整数标识

# 将自定义 Span 放进 Doc.spans,避免误把它当作模型自动识别的实体
doc.spans.setdefault("manual", []).append(product_span)
print(doc.spans["manual"][0].text)

手工创建的 Span 不会因为构造完成就自动变成 doc.ents。如果它代表模型识别的命名实体并且不与现有实体冲突,可以在明确知道写回语义后再赋给 doc.ents;如果只是规则、词典或人工标注结果,使用 doc.spans 保存通常更稳妥。

三、把边界检查放在 Span 构造之前

实际项目中,start 和 end 往往来自匹配器、外部标注文件或模型输出。不要直接把外部数值交给构造器;先把“区间非空、顺序正确、索引未越界、标签非空”这些约束写成一个小函数,错误就能在入口处被解释。

from spacy.tokens import Span

def make_labeled_span(doc, start, end, label):
    # 先拒绝空标签,避免下游出现没有类别的业务对象
    if not isinstance(label, str) or not label.strip():
        raise ValueError("label must be a non-empty string")

    # 使用半开区间:start 必须小于 end,end 可以等于 len(doc)
    if start  len(doc) or start >= end:
        raise ValueError("span range must satisfy 0 

这个检查函数没有替 spaCy 做额外的分词或实体判断,它只负责保护本文章的区间契约。尤其要留意 end == len(doc) 是合法的,因为它表示选择到最后一个词元;而 start == end 表示空区间,不应被当成一个有效业务 Span。

spaCy Span 半开区间、构造参数、输出属性和边界检查的关系说明图
图2:构造参数与边界检查说明图,突出 [start, end) 的右开语义;这是原创结构说明图,不是运行结果截图。

四、按承载方式选择 spans、ents 还是 SpanGroup

构造出 Span 后,还要决定它放在哪里。只需要临时读取时,保留局部变量即可;需要把规则标注附着在文档上时,可放进 doc.spans;只有当它确实是文档的命名实体集合,并且与已有实体边界不冲突时,才考虑更新 doc.ents。不要为了“看起来像实体”而覆盖模型结果。

承载方式适合场景需要注意
局部变量当前函数中读取文本、标签和位置离开作用域后不会自动回到 Doc
doc.spans["manual"]规则、词典、人工标注或多个候选区间用稳定键名区分来源
doc.ents确定要作为命名实体输出检查与现有实体的重叠和业务语义

一种实用的决策顺序是:先确认区间,再构造 Span;接着确认来源,再选择承载容器;最后才交给序列化、检索或下游规则。这样可以把“区间错误”和“写回位置不合适”分成两类问题处理。

常见问题

end 为什么不是最后一个词元的下标?

spaCy 的 Span 使用半开区间,end 是第一个不包含的位置。例如 Span(doc, 1, 3) 覆盖 1 和 2。这个设计与 Python 切片一致,也能让 [0, 2) 和 [2, 4) 无缝拼接。

构造了 Span 后,为什么 doc.ents 还是空的?

Span 构造只是创建对象,不等于自动注册为命名实体。规则标注可以放入 doc.spans 的命名空间;只有明确需要更新实体集合时,才按项目的实体写回策略处理。

可以把不连续的词元一次构造成一个 Span 吗?

Span 表示 Doc 上连续的一段切片。如果目标跨越不连续词元,应拆成多个 Span,或使用更适合承载多个候选的分组结构,不要用一个带空洞的 start/end 区间冒充不连续结果。

速查:一条稳定的构造清单

  • 先确认 0 。
  • 用 Span(doc, start, end, label="...") 构造连续区间。
  • 从 span.text、span.start、span.end 和 span.label_ 读取结果。
  • 规则或人工标注优先放入 doc.spans,不要无条件覆盖 doc.ents。
版本声明
本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
Go oggvorbis 可定位输入与流式输入有什么能力差异Go oggvorbis 可定位输入与流式输入有什么能力差异
上一篇
Go oggvorbis 可定位输入与流式输入有什么能力差异
Go oggvorbis 交错样本数组怎样映射左右声道
下一篇
Go oggvorbis 交错样本数组怎样映射左右声道
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • PubMedQA数据集详解:生物医学问答基准、功能与应用指南
    PubMedQA
    深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
    804次使用
  • H2O EvalGPT:开源LLM大模型评估与排行榜工具
    H2O EvalGPT
    H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
    795次使用
  • LMArena是什么?伯克利AI模型评估平台使用指南与功能解析
    LMArena
    LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
    885次使用
  • 斯坦福HELM:大语言模型Holistic Evaluation整体评估框架详解
    HELM
    深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
    853次使用
  • MMBench详解:多模态大模型基准测试、功能特点与使用指南
    MMBench
    MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
    683次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议 和 隐私政策
返回登录
  • 重置密码