Captum Saliency 怎样为多分类模型指定目标输出

当多分类模型输出形状为 [N, C] 时，Captum Saliency 的 target 用来选择要求输入梯度的类别分数。传一个整数表示整批解释同一类别；传长度为 N 的整数列表或一维张量，则为每个样本选择各自的类别。target 不是输入特征编号。

官方地址：https://captum.ai/

先确认输出形状

假设要解释两条样本的三分类打分。先确认第零维是样本、第二维是类别，再把业务类别映射成从零开始的输出索引。若模型输出的是字典、元组或多个任务，先包装前向函数，让它返回本次解释所需的分数张量。

本项目用固定线性层，避免把训练效果混进接口演示。准备能正常导入 torch 和 captum 的 Python 环境，再将下面代码保存为 saliency_demo.py。它没有下载模型或训练数据。

比较同类目标与逐样本目标

import torch
from captum.attr import Saliency

# 四个输入特征，三个类别输出；权重固定，便于推导梯度。
model = torch.nn.Linear(4, 3, bias=False)
with torch.no_grad():
    model.weight.copy_(torch.tensor([
        [1.0, 0.0, -1.0, 2.0],
        [0.0, 3.0, 1.0, -2.0],
        [-1.0, 1.0, 2.0, 0.0],
    ]))
model.eval()
x = torch.tensor([[1.0, 2.0, 0.0, 1.0],
                  [0.0, 1.0, 2.0, 1.0]], requires_grad=True)

# 前向输出为两行三列，类别索引合法范围为0到2。
print("scores shape:", model(x).shape)
saliency = Saliency(model)
same_class = saliency.attribute(x, target=1, abs=False)
per_sample = saliency.attribute(x, target=[0, 2], abs=False)
print("same class:", same_class)
print("per sample:", per_sample)
print("attribution shape:", per_sample.shape)

示例把 abs=False 写出来，是为了保留梯度正负号。默认 abs=True 会返回绝对值；两者不能混在同一套带符号解释里。Saliency 解释的是所选输出对输入的局部梯度，不是分类置信度或因果结论。

运行时如何判断结果

# 在已安装PyTorch与Captum的环境执行示例。
python saliency_demo.py

代码未在本文环境执行。按线性模型可推导：target=1 时，两条样本的带符号梯度都是权重第二行 [0, 3, 1, -2]；target=[0, 2] 时，第一条对应第一行权重，第二条对应第三行权重。归因张量应与输入同为 [2, 4]。

这个例子刻意使用线性层，所以梯度不依赖输入数值。换成非线性模型后，不应继续期待固定权重式结果；可先检查维度、类别映射与前向包装，再理解数值。

接入真实模型时保留哪些条件

不要把整个 attribute 调用放入禁用梯度的上下文。示例中的 no_grad 仅用于设置权重。真实任务还应明确解释 logits 还是概率：给前向函数增加 softmax 会改变被求导的函数，归因数值也可能变化。

target=None 会自动选择最大类别吗？

不会。若每个样本返回一个标量，可以不指定目标；多类别分数需要明确选择，不能把 None 当作 argmax 开关。

为什么归因形状不是类别数？

Saliency 返回输入特征的梯度，所以对应输入形状。类别索引用于选择输出分数，不会把结果变成类别概率向量。

负值是否说明这个特征不重要？

不能这样判断。带符号梯度表示局部变化方向；大小、正负和业务重要性应分开解释，也不能据此断言因果关系。

参考：Captum Saliency 官方接口：target、abs 与返回值。