本文提出了一种新的扰动流形及其关联的影响度量方法，通过该方法可以量化各种扰动对 DNN 分类器的影响，主要应用于四个模型构建任务：检测异常值、分析模型体系结构的敏感性、比较训练和测试集之间的网络敏感性以及定位易受攻击的区域。实验证明，该方法在 CIFAR10 和 MNIST 数据集上的 ResNet50 和 DenseNet121 模型中具有较好的性能。

Jan, 2019

本文提供了一个使用扰动分析方法来评估从时间序列模型中提取出的指标的策略，以此来有效评估评估指标质量和提供洞见，从而指导时间序列数据中的 XAI 方法的选择，例如关注回报时间而不是精度，并促进更可靠和可解释的机器学习模型的开发。

Jul, 2023

本文重点研究时间序列分析，对比了几种最先进的卷积分类器解释方法，发现扰动法是较优选项，但也强调选择最适合的归因方法与所需用例的选择密切相关。

Feb, 2022

本篇论文介绍了基于反向传播、扰动和近似等后处理方法的时间序列模型后解释的广泛范围。我们提出了内在可解释模型的新颖类别，并介绍了用于说明的常见评估指标及时间序列可解释性问题未来研究的方向。

May, 2023

本文研究基于深度学习的文本分类模型（CNN、LSTM 和 BERT）在面对有意义但与最终性能无关的输入扰动（如标点符号和停用词）时的表现，发现包括 BERT 在内的这类模型都很敏感，特别是对于输入扰动的删除尤其受影响。

Jan, 2022

利用轻量级概率网络，将预测不确定性纳入灵敏度分析以及通过不确定性分解的新方法进行模型解释，最终提高了模型的鲁棒性和推广能力，并从输入域的不确定性解释预测不确定性，从而提供了验证和解释深度学习模型的新方法。

Oct, 2018

我们认为机器学习（ML）模型的解释或模型构建过程可以被视为敏感性分析（SA）的一种形式，SA 是一种用于解释复杂系统的通用方法，可用于环境模拟、工程或经济等多个领域。我们旨在通过正式描述（a）ML 过程适合进行 SA 的系统性，（b）现有的 ML 解释方法与这一视角的相关性，以及（c）如何将其他 SA 技术应用于 ML 来弥合这两个领域之间的差距。

Dec, 2023

该研究旨在提出一种通用的评估框架，即扰动敏感性分析，以检测与命名实体相关的非预期模型偏差，并对两个不同的 NLP 模型进行了演示，即情感模型和毒性模型，以评估其效用。

Oct, 2019

本文提出了一种理论框架，使用度量技术研究机器学习模型的灵敏度，从度量解释中提取出一种新的定量度量方法，称为 α 曲线，它提供了比文献中现有解释型人工智能方法更深入的有关机器学习模型输入变量重要性的信息。

May, 2023

通过对两个轨迹预测模型 ——Trajectron++ 和 AgentFormer 的敏感性分析，本文发现 Trajectron++ 对最近状态历史时间点的扰动敏感性最高，而 AgentFormer 的扰动敏感性则分布在不同时间点的状态历史中。我们还证明，即使在存在主要敏感性于状态历史扰动的情况下，使用 Fast Gradient Sign Method 制作的难以检测的图像地图扰动也能够显著增加两个模型的预测误差。尽管图像地图可能对两个模型的预测输出有些微的贡献，但这个结果揭示了轨迹预测器对敌对图像扰动并不具备鲁棒性，而是易受图像攻击影响。通过对敏感性结果设计的优化规划器和示例扰动，我们展示了这种脆弱性如何导致车辆在中等行驶速度下突然停车。

Jan, 2024