Feb, 2022

通过场景式设计探究生成 AI 代码的可解释性

PDF
TL;DR本文研究自动生成模型的可解释性问题，结合三个软件工程应用场景，提出了人机交互的 XAI 设计方法，包括场景设计和问题驱动设计，并探讨了基于自动生成模型的代码生成、翻译和自动完成等功能的可解释性需求和设计思路。
generative aiexplainable aisoftware engineeringxaicode
发现论文，激发创造
  • 可解释的生成人工智能 (GenXAI)：调研、概念化与研究议程

    生成人工智能（GenAI）标志着人工智能能够生成解决方案，从而实现能够认知的人工智能，但也引出了解释可解释性（XAI）的新需求和挑战。本文首先强调了 XAI 在 GenAI 的重要性，并介绍了解释要求的新颖性和涵盖的方面。接着，我们对现有的 XAI 机制和方法进行了调查，并提供了税 onomy 来更好地描述和分类。然后，我们讨论了确保 XAI 的不同途径。最后，我们提供了一个简短但简明的 GenAI 技术背景，以帮助非技术读者更好地理解针对 GenAI 的新颖或调整过的 XAI 技术。本研究还为未来研究提供了十多个方向。

    Apr, 2024

  • 关于调和可用性和实用性的可解释人工智能方法

    本论文以自动驾驶汽车为研究对象，研究了四种常见的可解释人工智能方法，即决策树、文本、程序和图示。研究表明，参与者倾向于使用语言解释，但通过决策树解释更能客观地理解汽车的决策过程，并且结果显示，计算机科学经验和观察汽车成功或失败的情况可以影响解释的感知和有用性，因此本研究提出，设计 XAI 系统必须考虑用户的特定需求和情境因素。

    Jan, 2023

  • 透过终端用户启发式设计超越 XAI 算法边界

    本研究介绍了四个新的可解释人工智能技术问题，这些问题围绕设计和评估算法，并呼吁建立基于人类需求的可解释人工智能技术开发研究范式，以保证人工智能在关键任务中的负责任使用。

    Aug, 2022

  • 可解释人工智能分析和设计的多组件框架

    这篇论文讨论了符合科学历史的可解释人工智能 (XAI) 的框架问题，其原因追溯至现代机器学习（尤其是深度和强化学习）和对创造值得信赖的 AI 系统的关注，它的五个级别框架是 XAI 的关键组成部分。

    May, 2020

  • 自然对话中的机器学习模型解释：走向会话型可解释人工智能代理

    本文介绍了如何将可解释人工智能（XAI）应用于对话代理中，通过使用自然语言理解和生成组件来理解用户的信息需求并提供相应的解释。作者通过综合调查文献，提出了一份全面的可解释人工智能问题列表及相应的解释方法。

    Sep, 2022

  • 回顾解释型人工智能的需求 (xAI)

    本文对可解释性人工智能的相关文献进行了系统回顾，发现了四个主题性讨论，旨在推动可解释性人工智能领域的研究进一步深入发展。

    Dec, 2020

  • 基于生成模型的自然语言推理解释的交互式可解释人工智能框架

    INTERACTION 是一个生成性 XAI 框架，提供两个步骤的术语解释生成方法，具有 better performance 和多样性。

    Sep, 2022

  • 算法作曲中的自传式探索

    该研究使用 MeasureVAE 可解释的潜在维度的生成音乐 XAI 模型在爱尔兰民间音乐的训练数据集上进行了自传体研究，结果显示探索性的音乐创作流程突显了训练数据集的音乐特征而非生成模型本身的特征，XAI 模型在迭代工作流中的应用显示出其成为比其最初设计用途更丰富和复杂工作流的潜力。

    Aug, 2023

  • 可解释人工智能 (XAI) 中的机遇与挑战：一份调查

    本文介绍了深度学习中可解释人工智能技术（XAI），提出了技术分类法并介绍了方法学、范畴和应用层次等主要原则，旨在建立可信、可解释和自说明的深度学习模型。此外，通过八种不同的可解释人工智能算法对图像数据进行了评估，讨论了这种方法的局限性，并提出了未来改进的潜在方向。

    Jun, 2020

  • 解释解释：机器学习的可解释性概述

    有关解释人工智能的最佳实践和挑战的调查表明，现有的解释方法尤其是对于深度神经网络而言不足以提供算法的公正性、数据偏见和性能。

    May, 2018