Nov, 2017

关注性说明：证明决策并指向证据 (扩展摘要)

PDF
TL;DR本文介绍深度模型在视觉决策问题中表现良好的同时，其透明度也导致了可解释系统的兴起，并提出了两个带注释的大规模数据集，通过视觉和文本形式保证决策的分类，同时提出了一种多模式方法，定量证明使用文本解释的训练方法不仅可以获得更好的文本解释模型，还可以更好地定位支持其决策的证据。
deep modelsexplainable systemsmodel explanationmultimodal explanationstextual justification
发现论文，激发创造
  • 多模态解释：证明决策并指向证据

    本研究提出了一种多模态方法来解释深层模型，同时训练文本生成和注意权重可视化，研究结果表明该方法可以产生更好的文本解释模型，并能更好地定位支持分类决策的证据，从而明显优于单模态方法。

    Feb, 2018

  • 初探：通过视觉和文本解释实现可解释的 TextVQA 模型

    该论文提出了一种可解释的深度学习模型 - MTXNet，着重于图像中的文本的多模态解释生成，并使用包含视觉信息和多种文本解释的新颖数据集 TextVQA-X 进行训练和评估，显示出该多模态解释与人类解释一致，有助于为模型的决策提供有用的见解。该模型解释效果的得分在 CIDEr 方面优于单模态模型至多 7％，在 IoU 方面优于单模态模型至多 2％。

    Apr, 2021

  • 视觉问题回答的忠实多模态解释

    本文提出了一种新颖的方法，开发了一个高性能的 VQA 系统，能够通过集成的文本和视觉解释阐述其答案，并捕捉到深度神经网络推理的重要方面，从而比竞争方法具有更好的自动化和人类评估指标。

    Sep, 2018

  • 生成视觉解释

    提出了一种新的深度学习视觉识别模型，可根据可见物体的特征进行分类，并生成解释说明预测标签的原因，该模型使用了一种基于采样和强化学习的新型损失函数，能够生成与现有描述方法不同的描述结果。

    Mar, 2016

  • VQA-E：为视觉问题解答进行解释、阐释和增强

    提出了 VQA-E 任务，要求计算机模型在预测答案的同时生成一个解释。通过多任务学习框架， VQA-E 数据集从 VQA v2 数据集自动导出，用户研究表明，我们的方法可以生成有洞察力的文本句子来证明答案，并提高了答案预测的性能。

    Mar, 2018

  • REX：基于推理和实证的解释

    本文旨在提高可信的 AI 系统的有效性和可解释性，定义一个新类型的多模态解释来解释决策，并提出一种新的解释生成方法，可以显式地模拟词语和感兴趣的区域之间的配对关系，同时开发了一个包含 1040830 个多模态解释的新数据集以及进行了广泛的分析，以研究不同设置下解释的有效性和推理性能。

    Mar, 2022

  • 解释能否增加 VQA 模型对人的可预测性？

    通过对深度神经网络进行解释并将其应用于 VQA 等人类交互任务的研究已经取得了重大进展；然而，本研究发现目前的解释并不能提高模型的可预测性，而将模型视为黑盒的人类参与方法却能够提高可预测性。

    Oct, 2018

  • 深度视觉解释简介

    研究了深度学习方法面临的可解释性困境，提出了一种叫做 “深度视觉解释” 的框架，通过可视化技术来识别和暴露深度学习模型性能行为的假设，以提高模型的可解释性和可调试性，并展示了初步的可解释性应用实验结果。

    Nov, 2017

  • 深度视觉建模中可解释人工智能的调查：方法和度量

    本文是可解释人工智能领域的第一篇调查研究，探讨了深度视觉模型解释方法和度量标准，提供了现有技术的分类组织，阐述了不同属性的度量方法，并就当前趋势、挑战和未来方向进行了深入讨论。

    Jan, 2023

  • Lean 和 Argumentative 解释下的可解释决策制定

    论文探讨了如何针对目标导向决策与论证性解释构建透明度的自动决策框架，其中使用基于假设的论证建模确保了 “好” 的决策的合理性，进而为不同用户提供精简与论证两种形式的解释。

    Jan, 2022