局部篡改句子可以大大改变其意义。最近的研究表明，训练在部分伪造音频上的对策可以有效地检测此类篡改。然而，目前对对策决策过程的理解有限。我们利用 Grad-CAM 并引入一种定量分析度量来解释对策的决策。我们发现对策优先考虑当连接真实和伪造音频时产生的过渡区域的伪迹。这种聚焦与仅在完全伪造音频上训练的对策不同，后者侧重于真实和伪造部分之间的模式差异。我们的进一步研究解释了在正确或错误预测时对策聚焦的差异性质。这些观察结果为对策模型的设计和数据集的创建提供了一个基础。此外，这项工作为之前未曾深入探索的局部篡改音频检测领域的解释性奠定了基础。

Jun, 2024

反复注入学习范例中的干扰，利用对比捷径注入方法（CSI）设计更强的捷径特征，使得清洁标签攻击在低毒性率下具有高效性和隐秘性。

Mar, 2024

本文为异常检测模型提供了一种可解释人工智能（XAI）的方法，以突出不同类型模型所使用的相关特征，并揭示了 “Clever Hans” 效应在许多意外形式中的普遍存在，这是由于模型自身的结构使其无法检测到真正相关的特征，提供了警告，并指出通过允许多个异常模型相互取消其各自的结构缺陷来共同产生更好、更可信的异常检测器的可能出路。

Jun, 2020

本研究通过对后端神经网络与训练标准的比较，评估 ASVspoof 2019 逻辑访问任务的对策模型，发现随机初始种子会对模型性能造成显著影响，但平均池化和新的无超参数损失函数是比较优秀的技术。

Mar, 2021

本文研究深度神经网络中数据集偏差对任务的影响。通过具体分析特征和标签之间的虚假相关性的来源，本文提出了一种训练策略，即通过量化偏置的程度来调整偏置示例的权重，以减少模型过度依赖数据集偏差的情况，并在 QM 和 NLI 任务上得到了表现的提高。

May, 2022

深度学习中的短路问题及可解释 AI 的解决方案：引入反事实频率表的方法将示例级解释汇总成全局洞见，揭示所学习到的短路。

May, 2024

AI 系统在面临对抗性攻击时可能会采取有害行为，本研究提出了一种基于表示工程的方法，通过直接控制导致有害输出的表示来防止有害输出的生成，从而在不牺牲实用性的前提下，提供了可靠的防止有害行为和对抗性攻击的保护措施。

Jun, 2024

通过提出具有多个偏差的数据集和评估集，研究了计算机视觉模型在存在多个捷径时的表现，并提出了一个简单而有效的方法，可以在不引起 “打地鼠” 问题的情况下解决多个捷径问题。

Dec, 2022

本文探讨了解释性人工智能在验证机器学习模型中的应用，发现只有用户接受了解释并不能保证模型的准确性。作者还提供了一种新的方法，即 Explanation-Guided Exposure Minimization (EGEM)，通过预先剪枝未被积极解释反馈的 ML 模型变化来减少对隐藏的 Clever Hans 策略的依赖，最终在自然图像数据上获得更高的预测准确度。

Apr, 2023

本文提出基于多数据集协同训练和锐度感知最小化的紧凑型音频反欺诈模型，具备跨数据集的泛化性能，相较于预训练模型，参数数量少 4,000 倍，并在多个数据集上表现出竞争力。

May, 2023