Aug, 2019

使用 Rationale 正则化学习可靠的深度神经网络

PDF
TL;DR提出了 CREX 方法，通过合理利用证据材料、避免数据依赖性偏见、依靠机器辅助生成、并配合专家审查，增强深度学习模型的可信度，相关实验也显示 CREX 在增加深度学习模型可信度方面具有显著效果。
explainabilitydnnstrainingrationalescredibility
发现论文，激发创造
  • 当关系比概念更能说明问题：用 CoReX 探索和评估分类器的决策

    本研究提出了一种基于概念和关系的解释方法（CoReX），用于解释和评估卷积神经网络（CNN）模型，以及支持识别和重新分类错误或模糊分类。

    May, 2024

  • UNIREX: 一种用于语言模型理由提取的统一学习框架

    本文提出了 UNIREX 灵活的学习框架，旨在优化解释提取，它可以替换现有启发式算法设计，并针对准确性、可信度和 PLAUSIBILITY 这三个需求进行优化，同时可以使用标准化相关增益（NRG）指标评估模型性能。在五个文本分类数据集上的实验表明，本文提出的 UNIREX 配置比基线平均提高了 32.9％的 NRG。与此同时，研究还发现 UNIREX 训练的解释提取器可推广到未见过的数据集和任务。

    Dec, 2021

  • 基于理性增强的语言模型的连续关系学习能力更佳

    通过结合大型语言模型生成的关系分类结果解释策略，设计了多任务的合理调整策略和对比性合理重现方法来增强模型对当前和类似关系的学习能力，并在两个标准基准测试中证明了我们的方法优于现有的连续关系提取模型。

    Oct, 2023

  • REFER: 解释规范化的端到端关键抽取框架

    我们提出了一种名为 REFER 的框架，利用可微分的 rationale extractor 来通过在训练过程中使用人工标注的重点提取训练任务模型和 rationale extractor，从而在忠实度、可信度和下游任务准确率方面显著提升性能。

    Oct, 2023

  • 基于知识的自我合理化：通过抽取和自然语言解释

    介绍了一种自我合理化的框架 RExC，旨在提供两种互补类型的解释（NLE 和提取合理），并将其与背景知识结合起来，从而达到了任务最新水平的性能，并大幅度领先于现有模型，同时进行干扰分析表明，解释与预测之间存在高度的关联性。

    Jun, 2021

  • 少即是多：发现简明网络解释

    提出一种新的方法，通过生成人可理解的视觉解释来增强深度神经图像分类器的可解释性，并且该方法通过同时优化三个标准：解释应该少、多样化和可理解，以自动找出区分类别的关键视觉解释。

    May, 2024

  • 解释是有用的：通过惩罚解释来使神经网络与先验知识相一致

    本文提出了一种名为 CDEP 的方法，可帮助实践者利用现有的解释方法来增加深度学习模型的预测准确性，并使用上下文分解（CD）提供的解释来演示该方法在一系列玩具数据集和真实数据集上提高了性能。

    Sep, 2019

  • 远程监督下非单调推理的理性化学习

    研究如何使用先前经过训练的语言模型、神经知识模型和相关任务的远程监督等，通过训练生成解释原因的生成模型来推断自然语言解释。然而，结果表明，由于神经语言模型的基本限制，该模型生成的解释仅限于具有普遍性的陈述，而在进行推理的同时预测更新或其类型和生成理由是更具挑战性的，这是未来的重要方向。

    Dec, 2020

  • 一个稳健的指导视觉解释的框架

    提出了使用 RES 框架进行监督解释的方法以提高深度神经网络的外推泛化性和内在的可解释性，该框架可解决标注不准确、区域不完整和分布不一致等挑战，经测试在两种实际图像数据集上均表现较好。

    Jun, 2022

  • CoRTX: 实时解释对比框架

    本文提出了一种 COntrastive Real-Time eXplanation (CoRTX) 框架，通过设计一种合成策略在模型解释任务中进行对比学习，从而解决了实用中训练模型解释的难题。实验结果在三个真实数据集上证明了该框架的高效性和有效性。

    Mar, 2023