ACLApr, 2024

探索使用人类理由的文本分类器的模型性能和解释可信度之间的权衡

PDF
TL;DR我们提出了一种方法，将人类决策的解释性文本注释引入文本分类模型，从而提高模型解释的可信度，并通过多目标优化算法在性能和可信度之间达到平衡，从而显著提高模型解释的质量。
saliency post-hoc explainability methodsrationalestext classification modelscontrastive learningmodel explanations
发现论文，激发创造
  • 无锁多方面文本分类理性化

    本文提出了一种多阶段培训方法，将自我监督对比损失纳入其中，并证明可以帮助生成更多语义多样的理性化解释，从而改善了啤酒评论数据集的实验结果，并解决了互锁问题。

    May, 2022

  • 公正与可解释性之间的相互作用

    建立可靠且值得信赖的自然语言处理应用程序，模型需要在不同人群之间既公平又可解释。本研究通过两个文本分类数据集进行实验证明，公平和可解释性并不总是相互影响的，因此需要同时考虑这两个目标，以获得更好的结果。

    Oct, 2023

  • 后验解释能够提高语言模型的性能

    AMPLIFY 框架使用后续解释的方法，自动生成自然语言解释以提供纠正信号，从而提高 Large Language Models 的预测准确率。

    May, 2023

  • 人类推理是否能提升机器解释能力？

    通过实验表明，利用 sample-based rationales 可提高机器学习系统的分类准确性，我们在此基础上通过 Explanations 对其解释时的表现也得出加强版的 Explanable AI 理论；特别是，我们发现在 CNN-based 文本分类中，利用 supervised attention 相比于 normal 无监督 attention 更优秀。

    May, 2019

  • 再审视用于可解释 NLP 的人工标注

    通过对可解释 NLP 中两个广泛使用数据集上人类注释行为及其质量进行的实验表明，工作者的资质和注释过程的细节有着显著影响，并且特定的可解释性方法会随着不同指导下获得的 ground truth rationales 而有所不同。因此，研究人员需要提供完整的注释细节并谨慎解释使用这些注释所得到的实验结果的重要性。

    Apr, 2022

  • 可解释 NLP 的合理化探索：一项调查

    文章分析了 2007-2022 年间自然语言处理领域合理化 (Rationalization) 技术的发展现状和存在的问题，提出了一种新的可解释人工智能技术领域 Rational AI (RAI) 并讨论未来的研究方向和挑战。

    Jan, 2023

  • 何去学习以及如何：迈向有效的理由学习

    通过实证分析人类解释的两个特点，即最大化理性监督准确性未必是提高模型准确性的最佳目标和人类理性是否提供足够信息以供模型进行预测，我们在此基础上提出了几种新的损失函数和学习策略，在三个包含有人类理性的数据集上进行评估，结果显示出了不断改进的基线，包括 MultiRC 上的 3% 精度提高。我们的研究强调了理解人类解释的特性，并据此进行模型训练的重要性。

    Nov, 2021

  • 理性化是否能提高稳健性？

    本研究探讨了神经 NLP 模型的可解释性和鲁棒性之间的相互作用，试图通过有理化的过程来提高模型的鲁棒性，并针对五个不同的任务进行了实证评估。实验结果表明，理性模型有可能提高其鲁棒性，但它们在某些情况下会面临一定的挑战，并不总是表现得比无人为监督的模型更好。

    Apr, 2022

  • 理念的理性化

    提出一种自我解释模型 ConRAT，它从输入文本中提取概念，并使用关键概念的线性聚合来解释结果，以可解释性和预测性能方面超越了最先进的方法。

    May, 2021

  • 以哪些正确的理由来诉求正确？

    本文采用人类理性注释，跨越情感分析和常识推理三个数据集，并涵盖男女老少不同族裔人群，探究了模型预测与人类理性对齐的程度，并指出了现存的一些主观性问题。作者发现模型存在偏见，更倾向于与年龄较大或白人注释器的理性对齐。

    Jun, 2023