AAAIDec, 2021

基于文本联合分类和原理提取的模型可解释性与鲁棒性统一

PDF
TL;DR通过设计基于混合对抗训练和边界匹配约束的联合分类和根据原理提取模型 AT-BMC，本文证明了稳健性和更好解释之间的联系，并在基准数据集上获得了显著改进的分类和根据原理提取效果。
explainabilityrobustnesstext classificationrationale extractionadversarial attacks
发现论文，激发创造
  • 理性化是否能提高稳健性？

    本研究探讨了神经 NLP 模型的可解释性和鲁棒性之间的相互作用，试图通过有理化的过程来提高模型的鲁棒性，并针对五个不同的任务进行了实证评估。实验结果表明，理性模型有可能提高其鲁棒性，但它们在某些情况下会面临一定的挑战，并不总是表现得比无人为监督的模型更好。

    Apr, 2022

  • 无锁多方面文本分类理性化

    本文提出了一种多阶段培训方法，将自我监督对比损失纳入其中，并证明可以帮助生成更多语义多样的理性化解释，从而改善了啤酒评论数据集的实验结果，并解决了互锁问题。

    May, 2022

  • 探索使用人类理由的文本分类器的模型性能和解释可信度之间的权衡

    我们提出了一种方法，将人类决策的解释性文本注释引入文本分类模型，从而提高模型解释的可信度，并通过多目标优化算法在性能和可信度之间达到平衡，从而显著提高模型解释的质量。

    Apr, 2024

  • 通过对抗信息校准理性化预测

    在这项工作中，我们提出了一种通过信息校准和流畅关联提取语义信息的方法，成功地提取了辩解原因，并在情感分析、仇恨言论识别和法律方面的任务中证明了其有效性。

    Jan, 2023

  • 稳健性分析解释的评估和方法

    本文提出一种基于鲁棒性分析的特征解释新的评估标准，通过针对我们提出的评估标准进行优化，获得了松散且必要的解释和可以将当前预测移动到目标类的特征集。我们通过多领域实验和用户研究验证了我们评估标准和解释的有用性。

    May, 2020

  • 理念的理性化

    提出一种自我解释模型 ConRAT，它从输入文本中提取概念，并使用关键概念的线性聚合来解释结果，以可解释性和预测性能方面超越了最先进的方法。

    May, 2021

  • 基于理据增强卷积神经网络的文本分类

    提出了一种新的卷积神经网络模型，可以在文本分类和理解上进行监督学习，以推断支持文件分类的原因，从而提升分类性能，并且能够自然地为分类结果提供解释。

    May, 2016

  • 使用 Transformer 评估文本归因的对抗鲁棒性

    通过提出 attribution robustness（AR）的概念，使用一系列文本相似性度量来捕捉两个文本的局部性和不可感知性，并提出了 TransformerExplanationAttack（TEA）的概念，利用最先进的语言模型，提取单词替换，从而展示了对于几种文本分类架构的实验，证明了 TEA 在提高对上下文敏感性的同时，更加流畅，更不易被察觉。

    Dec, 2022

  • 借鉴最优秀的方法：通过敌对信息校准实现预测准确性

    本文介绍了一种基于信息校准的抽取原理提取方法，该方法首先使用神经模型解决特定任务，然后使用选择器 - 预测器模型提取来自神经模型的信息并产生对于预测的理由，通过基于对抗的技术来校准提取出的信息以提高效果。

    Dec, 2020

  • 文本复杂推理的可追溯和可解释方法

    研究复杂推理任务的机器学习模型的问责和透明度方法，通过暴露潜在漏洞和解释模型推理过程来提高利益相关者的信任度和发现模型决策中的错误和不公平性。

    Nov, 2022