我们提出了一个面向诊断 NLI 模型依赖于预测的潜在虚假特征的人工辅助仪表板，该仪表板支持用户通过 GPT-3 建议来生成不同种类的具有挑战性的示例，并从经过训练的 NLI 模型中获取反馈。通过调查，我们发现了会影响 NLI 模型推理的几类虚假相关性。根据我们的发现，我们确定并描述了各种研究机会，包括通过创建对抗测试套件来增加训练数据的多样性和评估 NLI 模型的稳健性。

Jun, 2023

该研究提出了一种视觉分析系统（ESCAPE），通过人类参与者的观测和量化，以及减轻偏见的解决方案（debias 方法），在避免人工智能盲点（AI blindspots）和系统性错误方面具有较高的实用性。

Mar, 2023

我们提出了一种高效侦测潜在假相关的通用方法，相对于现有技术需要更少人工干预，并且在消除像素级注释的同时提供直观的解释。此方法对 AI 生成的图像的特殊性表现出容忍度，而这是一个相当具有挑战性的任务，大多数现有方法在此方面存在不足。因此，我们的方法也适用于检测由生成模型产生的可能会传播到下游应用程序中的假相关。

Nov, 2023

本文发展了形式工具，用于在马尔科夫和半马尔科夫模型中分解虚假变异。我们证明了首个允许非参数分解虚假效应的结果，并提供了识别这种分解的充分条件。所述方法有多个应用，从可解释和公平的 AI 到流行病学和医学问题，并在真实世界数据集上证明了其用途。

Jun, 2023

数据驱动的学习中出现虚假相关性，我们通过合并推导虚假相关性的指标，研究它们对基于 ERM 基线模型的影响，并从因果图生成的合成数据集中观察连接这些假设和模型设计选择的模式。

Aug, 2023

深度神经网络模型容易学习到数据中的错误相关性，本文提出了一种评估方法，评估了五种事后解释技术和一种固有可解释的方法在胸部 X 射线诊断任务中对三种人为添加的混淆因素进行正确识别的能力，并发现 SHAP 和 Attri-Net 技术表现最佳，可用于可靠地识别错误的模型行为。

Jul, 2023

本文探讨了机器学习中由于混淆而导致的伪相关性问题，通过因果关系提供了明确的概念，并介绍了一种训练模型的方法和资源，可以降低其对伪相关性的敏感度，最终实验表明基于该方法提出的分类器在情感分析和自然语言推理任务上表现出了很好的性能。

Sep, 2019

本文讨论了一种新的方法，可以分析和衡量 Visual Question Answering 模型的稳健性，同时提出了使模型更具鲁棒性的方法，包括自动化的语义图像操作，和测试模型预测的一致性，生成合成数据来解决这些问题，实验结果表明，通过我们编辑的数据，模型的不一致预测显著减少，对于各种有挑战性的计数问题，我们对三种不同类型的最先进的 VQA 模型进行了分析，最终结果同样能够很好地应用于实际误差案例中，从而实现整体性能的提高。

Dec, 2019

本文提出了一种机器学习模型稳健性的框架，通过人类关于因果关系的常识知识来解决模型在训练和测试过程中的不一致性问题。透过在每个训练数据中加入人类标注的潜在未测变量，将问题转化为协变量转移问题，并引入分布稳健优化目标来控制测试时偏移的最坏情况损失，实验结果表明，在具有旋转混淆的数字识别任务和分析 NYPD 警务巡逻地点混杂的任务中能获得 5-10% 和 1.5-5% 的性能提升。

Jul, 2020

该研究针对机器学习应用中存在的假相关问题，以图像分类为例，提出两种数据生成策略来减少此类问题，并在多个领域的数据集上表现出更好的准确性和更好的解释能力。

Jun, 2021