Oct, 2023

朝可行的反事实解释前进：一种基于分类学引导的模板化自然语言生成方法

PDF
TL;DR通过用户调查和分类行动性的术语，我们开发了一种基于通用模板的自然语言生成方法，以改善反事实解释的理解和可操作性，通过解决现有方法的局限性，我们的方法在用户评估中得到更好的反应和结果。
发现论文，激发创造
  • 超越一刀切：将反事实解释适应用户目标

    解释性人工智能 (XAI) 是一项关键研究领域，旨在增强人工智能系统的透明度和解释性。反事实解释 (CFEs) 通过探索某些因素不同的替代情景，为机器学习算法的决策过程提供有价值的洞察。本文主张细致理解 CFEs，了解用户目标和目标应用的多样化需求，以设计更有效且量身定制的解释，以满足用户的特定需求，从而提高与人工智能系统的协作。

    Apr, 2024

  • 可解释人工智能与反事实路径

    提出了一种基于条件置换生成反事实路径的新型可解释性人工智能（XAI）方法，可以在知识图谱中识别与模型预测最相关的特征或特征组合，提供比传统特征加权方法更直观和可解释的模型行为解释，并有助于发现和减轻模型中的偏差。

    Jul, 2023

  • 面向人类认知水平的反事实解释实验设计（XAI）

    使用 Bloom's 分类法作为用户的认知能力测量模型，在讲解生成的过程中采用反事实解释为媒介，结合用户反馈，验证讲解在每个认知层次上的理解水平，并据此改进讲解的生成方法。

    Oct, 2022

  • 好的反事实和它们的来源：基于案例技术生成可解释人工智能的反事实

    本文研究使用反事实解释作为可解释的人工智能 (XAI) 问题的一种解决方案，并提出一种基于案例的方法来生成反事实，以提高其解释能力和覆盖范围。

    May, 2020

  • 反事实编辑器的反事实分析：一种基于回译的方法

    通过提出一个新的反向翻译的评估方法，我们针对自然语言处理模型和任务的解释方法的一致性问题进行了调查和分析，并提出了一种新的测量指标来评估不同特征的反事实生成方法的一致性。

    May, 2023

  • 揭示反事实解释在就业能力的潜力

    本研究提出反事实解释在复杂机器学习算法下的应用，以数据实例展示其在雇用相关问题中提高决策支持、遵守法律要求、引导受控变更和分析新颖洞见的作用。

    May, 2023

  • 水印反事实解释

    提出了一个模型不可知水印框架，用于探测未经授权的模型提取攻击，并保证所嵌入的水印不损害生成的对抗结果解释的质量。

    May, 2024

  • 在金融文本分类中为深度变压器生成合理的反事实解释

    本文提出一种新方法来产生可信的反事实解释，探索金融科技领域语言模型对于敌对训练的规范化优势，实验结果表明，与现有的最先进技术和人类表现相比，该方法不仅提高了模型的准确性，而且根据人类试验，产生的反事实解释更加可信。

    Oct, 2020

  • 自然语言界面的反事实解释

    本文提出了一种基于语义分析的新方法来生成自然语言界面的解释，重点是提供后续解释，描述如何最小修改发言以实现用户的目标。在两项用户研究中，我们证明了我们的方法可以显著提高用户的性能，并且与两种去除实验相比，可以生成更符合用户意图的解释。

    Apr, 2022

  • 使用自然语言生成反事实解释

    本文提出了一种基于深度神经网络的自然语言解释方法用于图像的分类，其中通过缺失证据来产生反事实解释，并提出了自动度量以分析所生成的反事实解释。

    Jun, 2018