EMNLPOct, 2021

通过实例归因和实例驱动更新降级虚假相关性的影响调节

PDF
TL;DR本文提出利用深度学习 NLP 模型的解释性和去除数据中虚假相关性的方法，即影响调整，该方法通过调整模型参数并学习任务标签预测，来降低数据中的混杂特征，可以显著地胜过对抗训练等基础方法。
发现论文，激发创造
  • 指导调整的统一因果观

    通过引入多个潜在因素，本研究提出了一种结构因果模型 (meta-SCM)，以整合不同的 NLP 任务，并只使用与特定任务相关的因果因素来进行预测，从而在提高零样本能力的同时避免了伪相关性的影响。

    Feb, 2024

  • 运用经验影响函数理解微调的逻辑

    通过精调来衡量神经网络的学习能力，研究发现常用模型在泛化和逻辑推理方面存在缺陷。

    Jun, 2024

  • 重新思考用户研究设计以评估模型解释

    该研究通过一个众包实验，探讨解释机器学习模型的预测对人类是否具有帮助，并发现在给定特征系数的情况下，人们能够更有效地对线性词袋模型进行操纵，但解释对 BERT 型分类器并没有显著提高操纵能力，而通过伪造 BERT 模型的线性模型的对全局归属的解释则可以有效地操作 BERT 型模型。

    Dec, 2021

  • 基于解释的微调使模型对虚假线索更加鲁棒

    本文提出了基于解释的微调作为一种缓解大型语言模型依赖错误相关的新颖通用方法，并在人工构建的训练集上微调模型，使其更加强壮。与标准微调不同，我们不仅仅针对输入进行预测，还微调模型以生成支持其答案的自由文本解释。与标准微调相比，我们的方法在四个分类任务中使模型对伪线索具有明显更强的稳健性。此外，我们的方法同样适用于由模型生成的解释，暗示了其在更多数据集上的适用性。

    May, 2023

  • 有益还是有害的数据？无需微调的 Shapley 属性归因用于解释语言模型预测

    在这篇论文中，我们提出了一种针对实例归属的鲁棒性解释方法，通过引入 Shapley 值的高效逼近方法来提高实例归属和其他数据相关应用的性能，在大型语言模型上进行了广义的推广。

    Jun, 2024

  • 数据集平衡的局限性：对抗虚假相关的失败战役

    本观点文章指出，解决数据集平衡问题的常见方法已经不足以避免深度学习模型对小规模数据和特定标签的依赖和过拟合问题。我们提出了多种替代方法，包括增强数据集上下文语境，使用少量样本训练模型，通过与用户交互的方式进行模型推理等。

    Apr, 2022

  • 通过数据混合消除预先训练模型中的虚假相关性

    本研究介绍了一种简单有效的方法来消除预先训练的机器学习模型中存在的伪相关性，该方法通过数据混合平衡所有类别中的伪属性，并在多种视觉和 NLP 任务中获得了最先进的表现。

    May, 2023

  • 结合特征和实例归因来检测伪影

    本文提出了一种新的训练特征归因方法，通过结合显著性图和实例归因方法，可以有效地发现训练数据中的人工瑕疵，并在实验中取得了良好的结果。

    Jul, 2021

  • NLP 实例归因方法的实证比较

    本文研究了深度模型的解释性和模型调试方法，对比了不同的实例归属性方法，发现简单的检索方法与梯度基础方法类似，但计算量更小。

    Apr, 2021

  • 同理解能机器学习技术能否检测虚假相关性？

    深度神经网络模型容易学习到数据中的错误相关性，本文提出了一种评估方法，评估了五种事后解释技术和一种固有可解释的方法在胸部 X 射线诊断任务中对三种人为添加的混淆因素进行正确识别的能力，并发现 SHAP 和 Attri-Net 技术表现最佳，可用于可靠地识别错误的模型行为。

    Jul, 2023