Captum IntegratedGradients 怎样选择输入基线

归因图突然变了，最先该查的往往不是 n_steps，而是 Captum IntegratedGradients 的 baselines。基线决定积分从哪里出发：它应当表达“没有这项输入影响”或一个业务上中性的参考状态。对已经做过标准化的图像，零值可能代表数据均值；对原始数值特征，零值却可能是一个真实且极端的用户。两者不能混为一谈。

官方地址：https://captum.ai/

把 baseline 当成模型解释的起点

一次常见的故障是：同一批样本的 IntegratedGradients 结果在换了预处理后大幅漂移。根因不是模型权重改变，而是解释路径的起点仍然使用默认零标量。Captum 文档说明，未提供 baselines 时会为输入使用零值；积分则沿着 baseline 到 input 的直线路径近似梯度。

因此，基线不是“随便填一个同形张量”。如果输入是归一化图像，0 往往对应每个通道的训练集均值，可能是合理的“中性画布”；如果输入是年龄、金额、次数等原始特征，应该先定义业务上的参考用户，再决定用零值、训练集统计量或一条真实参考样本。基线不同，归因回答的其实是不同问题。

先按输入类型确定候选基线

Captum 允许单输入使用同形张量、首维为 1 的可广播张量或标量；多输入则应传入对应的 tuple。这里有一个容易漏掉的区别：形状通过只说明计算可以开始，不能说明解释具有业务意义。对文本模型尤其要把 token 的离散表示和嵌入层的连续表示分开处理。

用显式参数固定一次解释

基线候选确定后，把关键参数写在调用点，不要依赖默认值。下面是一个最小的连续输入示例；它只展示调用结构，真实项目要把 neutral 换成经过数据分析确认的参考状态。

import torch
from captum.attr import IntegratedGradients

# 这里的模型应返回每个样本的目标分数，示例不在本地执行
def forward_for_target(x):
    # 只取模型输出中的目标分数，避免 target 语义漂移
    return model(x)[:, target_index]

# 中性基线必须和输入处于同一个预处理空间
neutral = torch.zeros_like(inputs)
ig = IntegratedGradients(forward_for_target)

# 显式固定积分方法、步数，并返回收敛误差供复盘
attributions, delta = ig.attribute(
    inputs,
    baselines=neutral,
    n_steps=100,
    method="gausslegendre",
    return_convergence_delta=True,
)

# delta 只能说明积分近似误差，不能证明 baseline 选得符合业务语义
print(attributions.shape, delta)

n_steps 增大只能改善路径积分的数值近似，不能修复错误的起点。method 可以选择文档支持的 Riemann 变体或 Gauss-Legendre；样本较多时再用 internal_batch_size 分块控制显存。多输入模型则把 inputs 与 baselines 都写成对应顺序的 tuple，并确认每个样本的第 0 维保持一致。

用替代基线复盘归因是否稳定

修复这类故障时，我会保留原来的零基线，再增加一个业务中性基线，而不是直接挑一个“看起来更平滑”的结果。两次归因应固定同一个 target、n_steps 和积分方法，然后比较重要特征的排序、正负号以及 delta。若只有换基线后才出现某个强信号，结论应写成“相对于该参考状态的变化”，不要写成模型无条件依赖该特征。

最终可以把检查项固定下来：输入和基线是否同空间、同结构；多输入是否按顺序对应；目标输出是否固定；delta 是否在可接受范围；换一个合理参考状态后，结论是否仍然保持方向一致。只有最后一项稳定时，归因才更接近模型行为，而不是基线选择的投影。

常见问题

不传 baselines 是否一定错误？

不一定。若输入空间中的零值确实代表无信号或中性状态，默认零基线可以使用；但应在文章、实验记录或代码注释中写清这个语义。

convergence delta 很小就说明基线正确吗？

不是。delta 主要反映积分近似与完整性关系的误差，不能替代业务语义判断。基线不合理时，delta 仍可能很小。

文本 token 能直接用零 ID 做基线吗？

通常不应把整数 ID 当作连续输入直接插值。更稳妥的做法是围绕嵌入层使用 LayerIntegratedGradients，或为模型设计可微的参考表示，并单独说明 padding 与 mask 的语义。