Captum NoiseTunnel 怎样用多次加噪平滑归因

先创建基础归因对象，再用 NoiseTunnel包装它，调用 attribute()时设置 nt_samples、stdevs和 nt_type="smoothgrad"，即可把多次高斯加噪后的归因取平均。显存紧张时，用 nt_samples_batch_size控制每次一起处理的噪声样本数。

官方地址：https://captum.ai/api/noise_tunnel.html

把平滑目标限定为固定模型与输出

接入模型解释服务时，先明确本次解释的是哪个模型版本、哪一种输入预处理，以及哪个输出类别。否则两张归因结果不同，可能源于目标类别变化，而非平滑参数变化。

本文使用小型、固定权重的网络演示调用结构；代码没有在本地执行，不把示例输出当作模型有效性证据。生产模型应替换示例网络，并沿用业务实际的输入处理。

准备一个可复制的最小示例

import torch
from torch import nn
from captum.attr import Saliency, NoiseTunnel

# 固定权重用于演示调用；不加载外部模型文件
model = nn.Sequential(nn.Linear(4, 5), nn.Tanh(), nn.Linear(5, 2))
with torch.no_grad():
    model[0].weight.fill_(0.2)
    model[0].bias.zero_()
    model[2].weight[0].fill_(0.1)
    model[2].weight[1].fill_(0.3)
    model[2].bias.zero_()
model.eval()

# 第一维为样本批次，输入使用浮点张量
inputs = torch.tensor([[0.1, 0.4, 0.6, 0.2]], requires_grad=True)
saliency = Saliency(model)
tunnel = NoiseTunnel(saliency)

# 固定本次噪声采样的随机种子，保留带符号梯度
torch.manual_seed(41)
smoothed = tunnel.attribute(
    inputs,
    target=1,
    abs=False,
    nt_type="smoothgrad",
    nt_samples=24,
    nt_samples_batch_size=6,
    stdevs=0.08,
)
print(smoothed.shape)

Saliency返回相对于输入的梯度，默认取绝对值；示例用 abs=False保留符号，避免把“有符号梯度的平均”和“绝对梯度的平均”混作同一种解释。target=1固定解释第二个输出。参数语义见Saliency官方API。

代码里的 torch.no_grad()只用于权重赋值，归因调用放在它的外面。把解释代码放进普通推理时的无梯度上下文，是接入时需要避免的调用结构错误。

显式设置采样数、噪声与批次

这里的数值只是示例配置。先确认输入已经经过怎样的缩放，再选择噪声幅度；对0到1的特征和未经缩放的大数值特征，照搬同一标准差没有充分依据。离散编号也不应直接套用连续浮点扰动的示例。

官方提供三种组合方式：smoothgrad取归因均值，smoothgrad_sq取归因平方的均值，vargrad取归因方差。它们的数值含义不同，不应仅按画面更亮或更平滑来选择。采样和批次参数定义见NoiseTunnel官方API。

限定解释结果的用途

平滑后的归因仍用于解释模型在给定输入附近的反应，不自动成为因果结论。建议先在内部诊断页面展示模型版本、目标类别和配置，再考虑向业务用户开放，避免仅交付一张没有上下文的彩色图。

如果解释服务允许用户提交输入，应由服务端限定采样数、输入尺寸和可选模型，而不是直接接受任意资源参数。这是资源治理上的接入建议，不是Captum自带权限功能。原始输入与归因文件也应按项目既有的数据权限保存。

记录配置并安排接入

# 与归因文件一起保存配置，避免后续比较时丢失解释口径
record = {
    "model_version": "fixed-demo",
    "target": 1,
    "nt_type": "smoothgrad",
    "nt_samples": 24,
    "nt_samples_batch_size": 6,
    "stdevs": 0.08,
    "seed": 41,
    "abs": False,
}
print(record)

实际接入可另外记录预处理版本、耗时、设备与失败原因。只保存必要元数据，避免为了审计而无差别复制输入数据。首次上线应先观察任务资源占用，再制定合理的采样上限；本文没有提供未经测量的显存节省比例或加速倍数。

把批次大小改小会减少采样总数吗？

两者是不同参数：总数由nt_samples指定，批次大小控制分组处理规模。不要为了处理内存问题而无意中把总采样量也改掉。

加噪后图更平滑就一定更正确吗？

视觉平滑不能替代解释目标检查。比较时固定模型、输入、目标与预处理，再观察参数变化；有符号值和平方统计也不能混为一谈。

固定随机种子是否保证所有环境逐位一致？

应把种子作为复现记录的一部分，同时记录软件和设备环境，不承诺跨环境逐位相同。