ACLApr, 2022

理性化是否能提高稳健性？

PDF
TL;DR本研究探讨了神经 NLP 模型的可解释性和鲁棒性之间的相互作用，试图通过有理化的过程来提高模型的鲁棒性，并针对五个不同的任务进行了实证评估。实验结果表明，理性模型有可能提高其鲁棒性，但它们在某些情况下会面临一定的挑战，并不总是表现得比无人为监督的模型更好。
neural nlp modelsrationalesrobustnessadversarial attacksinterpretability
发现论文，激发创造
  • 神经预测的理性化

    通过提取文本来生成短而连贯的理由 —— 根据规则确保足以做出准确预测的 —— 以代替不带理由的预测，该方法结合了生成器（分配文本碎片的候选理由）和编码器（用于预测）。从未给予判据，而是让模型符合对规则的要求。本文还在多方面情感分析和问题检索任务中成功验证了此方法。

    Jun, 2016

  • 自我合理化是否有助于提高对错误相关性的稳健性？

    本论文研究以人类编写的基准解释为训练数据的自我合理化模型，探讨其对于解决任务的正确性、易解释性和鲁棒性等方面的影响。结果表明，在低资源环境下，自我合理化模型有可能提高模型的鲁棒性；但在高资源环境下，模型的鲁棒性有所下降。

    Oct, 2022

  • 无锁多方面文本分类理性化

    本文提出了一种多阶段培训方法，将自我监督对比损失纳入其中，并证明可以帮助生成更多语义多样的理性化解释，从而改善了啤酒评论数据集的实验结果，并解决了互锁问题。

    May, 2022

  • 可解释 NLP 的合理化探索：一项调查

    文章分析了 2007-2022 年间自然语言处理领域合理化 (Rationalization) 技术的发展现状和存在的问题，提出了一种新的可解释人工智能技术领域 Rational AI (RAI) 并讨论未来的研究方向和挑战。

    Jan, 2023

  • 学会忽略对抗攻击

    使用理性模型可以成功在 BERT 和 RoBERTa 中提高超过 10% 的鲁棒性，显著忽略攻击词并在多个数据集上表现优异

    May, 2022

  • 远程监督下非单调推理的理性化学习

    研究如何使用先前经过训练的语言模型、神经知识模型和相关任务的远程监督等，通过训练生成解释原因的生成模型来推断自然语言解释。然而，结果表明，由于神经语言模型的基本限制，该模型生成的解释仅限于具有普遍性的陈述，而在进行推理的同时预测更新或其类型和生成理由是更具挑战性的，这是未来的重要方向。

    Dec, 2020

  • 神经理性模型的非理性

    通过哲学角度和经验证据，本文提出神经理由模型的合理性和可解释性不如人们预期，并呼吁更加严密和全面的评估以确保达到所需的可解释性特性。

    Oct, 2021

  • 何去学习以及如何：迈向有效的理由学习

    通过实证分析人类解释的两个特点，即最大化理性监督准确性未必是提高模型准确性的最佳目标和人类理性是否提供足够信息以供模型进行预测，我们在此基础上提出了几种新的损失函数和学习策略，在三个包含有人类理性的数据集上进行评估，结果显示出了不断改进的基线，包括 MultiRC 上的 3% 精度提高。我们的研究强调了理解人类解释的特性，并据此进行模型训练的重要性。

    Nov, 2021

  • Few-shot 合理化自我训练：教师解释帮助学生进行 Few-shot NLU

    利用自训练语言模型进行多任务教师 - 学生框架，在有限的任务特定标签和理由下，通过精心选择样本学习信息伪标签示例以及明确合理化预测的特征，显著提高了神经模型的性能，特别在低资源环境中表现出有效性。

    Sep, 2021

  • 探索使用人类理由的文本分类器的模型性能和解释可信度之间的权衡

    我们提出了一种方法，将人类决策的解释性文本注释引入文本分类模型，从而提高模型解释的可信度，并通过多目标优化算法在性能和可信度之间达到平衡，从而显著提高模型解释的质量。

    Apr, 2024