本文探讨了解释性人工智能在验证机器学习模型中的应用，发现只有用户接受了解释并不能保证模型的准确性。作者还提供了一种新的方法，即 Explanation-Guided Exposure Minimization (EGEM)，通过预先剪枝未被积极解释反馈的 ML 模型变化来减少对隐藏的 Clever Hans 策略的依赖，最终在自然图像数据上获得更高的预测准确度。

Apr, 2023

通过两种方法进行定量化，并通过遮盖已知的错误主题相关项进行缓解，从而揭示了高性能神经翻译语分类器中的虚假主题相关性的存在。

Aug, 2023

本文提出了半自动的光谱相关性分析，探究了学习机器如何解决各种问题，并对计算机视觉和街机游戏等各种任务进行了分析，展示了一系列解决问题行为。研究发现，标准的性能评估指标不能区分这些问题解决行为。此外，该方法可以帮助评估学习模型在特定问题上的可靠性，并将评价机器智能的成功更加细致和全面。

Feb, 2019

本研究旨在通过对深度学习 based 干扰计数器措施进行系统干预来识别其学习中的捷径，并通过分析回归模型来了解偏倚如何影响类条件分数统计。

May, 2023

我们通过使用四个多选题基准来调查 It-LLMs 对多个探测测试的韧性能力。引入对抗性示例，我们展示了在选择顺序变化时出现的显著性能差距，揭示了选择偏差并讨论了推理能力。通过使用连续思维（CoT）技术，我们引发模型进行推理并减轻偏见，从而获得更强大的模型。

Sep, 2023

这篇技术报告介绍了 CleverHans 软件库，它提供标准化的对抗样本构建技术和对抗训练的参考实现，可以用于开发更加健壮的机器学习模型，并提供标准化的基准来评估模型在对抗环境下的性能。

Oct, 2016

本文研究在机器学习中异常检测的独特挑战，探究有偏的异常数据集对异常检测的影响以及如何利用偏见数据集优化异常检测算法。

May, 2021

通过集成外部知识以了解概念动态和区分诱导语义偏移的转换，我们提出了一种名为 Knowledge Exposure（KE）的新方法来增强模型的泛化能力，在新的测试协议上对 CIFAR-10、CIFAR-100 和 SVHN 进行评估，表现优于以前的方法。

Jun, 2024

该研究介绍了 “explanatory interactive learning”（XIL）的新型学习模式，并通过植物表型研究任务展示了它的好处，结果表明 XIL 可以帮助避免机器学习中的 “Clever Hans” 行为，鼓励或不鼓励对基础模型的信任。

Jan, 2020

本文探讨了机器学习中由于混淆而导致的伪相关性问题，通过因果关系提供了明确的概念，并介绍了一种训练模型的方法和资源，可以降低其对伪相关性的敏感度，最终实验表明基于该方法提出的分类器在情感分析和自然语言推理任务上表现出了很好的性能。

Sep, 2019