Oct, 2023

REFER: 解释规范化的端到端关键抽取框架

PDF
TL;DR我们提出了一种名为 REFER 的框架，利用可微分的 rationale extractor 来通过在训练过程中使用人工标注的重点提取训练任务模型和 rationale extractor，从而在忠实度、可信度和下游任务准确率方面显著提升性能。
rationale extractionexplainable natural language processingfaithfulnessplausibilitydownstream task accuracy
发现论文，激发创造
  • UNIREX: 一种用于语言模型理由提取的统一学习框架

    本文提出了 UNIREX 灵活的学习框架，旨在优化解释提取，它可以替换现有启发式算法设计，并针对准确性、可信度和 PLAUSIBILITY 这三个需求进行优化，同时可以使用标准化相关增益（NRG）指标评估模型性能。在五个文本分类数据集上的实验表明，本文提出的 UNIREX 配置比基线平均提高了 32.9％的 NRG。与此同时，研究还发现 UNIREX 训练的解释提取器可推广到未见过的数据集和任务。

    Dec, 2021

  • 通过正则化进行段落级别的理由提取：以欧洲人权法院案例为例

    该篇研究探讨了关于 NLP 中的可解释性或解释性是如何应用在法律文本中的，为了更好的满足用户的需求，我们提出了一种基于段落的理由提取的方法，并引入了一个新的数据集，对已有的规则进行了研究和探究。结果表明，该任务非常具有挑战性并需要深入研究。

    Mar, 2021

  • 基于知识的自我合理化：通过抽取和自然语言解释

    介绍了一种自我合理化的框架 RExC，旨在提供两种互补类型的解释（NLE 和提取合理），并将其与背景知识结合起来，从而达到了任务最新水平的性能，并大幅度领先于现有模型，同时进行干扰分析表明，解释与预测之间存在高度的关联性。

    Jun, 2021

  • 通过半监督蕴涵信号实现合理提取的理由化

    通过在部分监督下基于自然语言推理模型对合理性解释模型进行了优化，无需访问真实标签，提高了性能，并实现了与监督提取模型相当的结果和优于无监督方法 100% 以上的性能。

    Feb, 2024

  • 再审视用于可解释 NLP 的人工标注

    通过对可解释 NLP 中两个广泛使用数据集上人类注释行为及其质量进行的实验表明，工作者的资质和注释过程的细节有着显著影响，并且特定的可解释性方法会随着不同指导下获得的 ground truth rationales 而有所不同。因此，研究人员需要提供完整的注释细节并谨慎解释使用这些注释所得到的实验结果的重要性。

    Apr, 2022

  • 关系抽取的连续理由提取：合理思考所见

    本文提出了一种新的关系抽取框架 RE2，通过运用连续性和稀疏性因素来获取有关联且连贯的理由，从而解决了保留相关内容和移除噪声段落的难题。

    May, 2023

  • 可解释的多跳事实验证中一致的多粒度理由提取

    本文提出了一种基于多粒度证据提取的可解释多跳事实验证模型，采用差分掩蔽同时训练基于标记层和句子层的模型，确保提取粒度多、解释一致、证据可信。

    May, 2023

  • 探索使用人类理由的文本分类器的模型性能和解释可信度之间的权衡

    我们提出了一种方法，将人类决策的解释性文本注释引入文本分类模型，从而提高模型解释的可信度，并通过多目标优化算法在性能和可信度之间达到平衡，从而显著提高模型解释的质量。

    Apr, 2024

  • 理念的理性化

    提出一种自我解释模型 ConRAT，它从输入文本中提取概念，并使用关键概念的线性聚合来解释结果，以可解释性和预测性能方面超越了最先进的方法。

    May, 2021

  • 自动理由生成：可解释 AI 技术及其对人类感知的影响

    这篇研究论文介绍了自动化理由生成的方法，训练神经理由生成器产生不同风格的理由，并通过两项用户研究验证用户对不同生成的理由的感知。

    Jan, 2019