Apr, 2024

可解释的生成人工智能 (GenXAI)：调研、概念化与研究议程

PDF
TL;DR生成人工智能（GenAI）标志着人工智能能够生成解决方案，从而实现能够认知的人工智能，但也引出了解释可解释性（XAI）的新需求和挑战。本文首先强调了 XAI 在 GenAI 的重要性，并介绍了解释要求的新颖性和涵盖的方面。接着，我们对现有的 XAI 机制和方法进行了调查，并提供了税 onomy 来更好地描述和分类。然后，我们讨论了确保 XAI 的不同途径。最后，我们提供了一个简短但简明的 GenAI 技术背景，以帮助非技术读者更好地理解针对 GenAI 的新颖或调整过的 XAI 技术。本研究还为未来研究提供了十多个方向。
generative aiexplainabilityxaigenaitaxonomy
发现论文，激发创造
  • 通过场景式设计探究生成 AI 代码的可解释性

    本文研究自动生成模型的可解释性问题，结合三个软件工程应用场景，提出了人机交互的 XAI 设计方法，包括场景设计和问题驱动设计，并探讨了基于自动生成模型的代码生成、翻译和自动完成等功能的可解释性需求和设计思路。

    Feb, 2022

  • 可解释人工智能 (XAI) 中的机遇与挑战：一份调查

    本文介绍了深度学习中可解释人工智能技术（XAI），提出了技术分类法并介绍了方法学、范畴和应用层次等主要原则，旨在建立可信、可解释和自说明的深度学习模型。此外，通过八种不同的可解释人工智能算法对图像数据进行了评估，讨论了这种方法的局限性，并提出了未来改进的潜在方向。

    Jun, 2020

  • 基于概念的可解释人工智能综述

    通过对 C-XAI 方法进行 thorough review，本文提供了分类体系、选择指南和常见评估策略，旨在促进可解释人工智能领域的发展。

    Dec, 2023

  • 可解释人工智能 (XAI)：概念、分类、机遇和挑战，助力负责任的人工智能

    本文综述了可解释人工智能（XAI）领域内的现有文献，并对未来的研究前景进行了探讨。我们提出了一种新的可解释性定义，针对各种机器学习模型提出了分类。同时，我们讨论了 XAI 面临的一系列挑战，如数据融合和解释性之间的折衷等。最终，我们的观点指向了 “负责任人工智能” 的概念，在其中强调了 AI 方法在实际组织中的实施中必须保证公平性、模型可解释性和可追溯性。

    Oct, 2019

  • 可解释人工智能：系统综述

    这篇论文从四个主要聚类方向：综述文章、理论和概念、方法及其评估，总结了可解释人工智能领域的最新技术水平并提出了未来研究方向。

    May, 2020

  • 回顾解释型人工智能的需求 (xAI)

    本文对可解释性人工智能的相关文献进行了系统回顾，发现了四个主题性讨论，旨在推动可解释性人工智能领域的研究进一步深入发展。

    Dec, 2020

  • 可解释人工智能分析和设计的多组件框架

    这篇论文讨论了符合科学历史的可解释人工智能 (XAI) 的框架问题，其原因追溯至现代机器学习（尤其是深度和强化学习）和对创造值得信赖的 AI 系统的关注，它的五个级别框架是 XAI 的关键组成部分。

    May, 2020

  • 可解释人工智能方法：一项调查

    该研究演示了可解释人工智能的多种方法，并与信用违约预测等任务进行了比较，提出了定量解释性的有意义见解，为开发负责任或以人为中心的 AI 系统提供方向和未来研究方向，有助于在高风险应用中采用 AI。

    Jan, 2021

  • 推动可解释人工智能迈向人类智能：铸造人工大脑之路

    人工智能与神经科学在可解释的人工智能中的交叉是增强复杂决策过程中透明度和可解释性的关键，本文探讨了从基于特征到以人为中心的方法的可解释的人工智能方法学的演变，并深入研究了它们在包括医疗保健和金融在内的不同领域的应用。同时讨论了在生成模型的可解释性、确保负责任的人工智能实践以及应对伦理影响方面的挑战。本文进一步研究了可解释的人工智能与认知科学的潜在融合、情感智能人工智能的发展以及人工智能系统中人类智能的追求。随着人工智能向人工通用智能的发展，对意识、伦理和社会影响的考虑变得至关重要。致力于通过人工智能解密大脑奥秘和实现人类智能的追求代表了结合技术进步与多学科人类认知探索的变革性努力。

    Feb, 2024

  • 网络安全可解释人工智能调查

    通过对网络系统中的网络驱动安全威胁和问题进行系统分类，本文就网络安全中的可解释人工智能问题进行了回顾和研究，探讨了解释人工智能目前的挑战和局限性，并提出了未来的研究方向。

    Mar, 2023