Apr, 2024

探索可解释人工智能 (XAI) 在 AI 生命周期中对公平性的潜力

PDF
TL;DR人工智能系统的广泛应用越来越突显算法公正性问题，特别是在高风险情景下。因此，对如何改善人工智能系统的公正性以及可采取的措施进行关键考虑已迫在眉睫。许多研究人员和政策制定者认为可解释的人工智能是提高人工智能系统公正性的一种有希望的方法。然而，可解释的人工智能方法和公正性概念各不相同，它们表达不同的期望，而且可解释的人工智能与公正性之间的确切联系仍然模糊不清。此外，在人工智能系统的整个生命周期中，可能适用不同的措施来增加算法的公正性。然而，目前还没有一种连贯的方法将公正性期望与人工智能生命周期相对应。本文旨在填补这两个空白：我们概括得出了八个公正性期望，将它们与人工智能生命周期相联系，并讨论可解释的人工智能如何帮助解决每个期望。我们希望为实际应用提供方向，并激励特别关注这些公正性期望的可解释的人工智能研究。
artificial intelligencealgorithmic fairnessexplainable aifairness desiderataai lifecycle
发现论文，激发创造
  • XAI 公平效益的关键调查

    通过系统文献综述和定性内容分析，我们对可解释性人工智能（XAI）与公平之间的关系进行了深入调查，发现了公平福利的七个典型主张，并提出了对这些主张的重要注意事项。尽管文献经常暗示 XAI 是实现几个公平愿望的一种手段，但我们注意到这些愿望与 XAI 的能力之间存在不匹配，我们鼓励将 XAI 视为解决算法公平这个多维度社会技术挑战的工具之一，并具体说明哪种 XAI 方法如何使谁能够解决哪种公平愿望。

    Oct, 2023

  • 面向自然语言处理模型公平性的解释性方法应用挑战

    本文简要回顾自然语言处理领域中解释性和公平性的研究趋势，识别出目前通过解释性方法来检测和减轻偏见的实践，调查 XAI 方法在解决公平问题方面广泛应用的障碍。

    Jun, 2022

  • 何者想要什么以及如何实现：用于可解释人工智能的映射函数

    本研究旨在对现有可解释人工智能研究进行审查，并对 XAI 方法进行分类。该研究目的在于为 XAI 用户提供适当的方法，并将所需属性与当前 XAI 方法相关联，从而为用户提供个性化的解释。

    Feb, 2023

  • 超越可解释人工智能：面向负责任人工智能的障碍

    透明度、可理解性和责任 AI 的局限性以及其与隐私、公平性和争议性等重要方面的联系。

    Sep, 2023

  • 可解释人工智能 (XAI) 中的机遇与挑战：一份调查

    本文介绍了深度学习中可解释人工智能技术（XAI），提出了技术分类法并介绍了方法学、范畴和应用层次等主要原则，旨在建立可信、可解释和自说明的深度学习模型。此外，通过八种不同的可解释人工智能算法对图像数据进行了评估，讨论了这种方法的局限性，并提出了未来改进的潜在方向。

    Jun, 2020

  • 在交互式人机协同 AI 公平性中促进最终用户的参与

    我们探索了一种人机交互界面的设计，使得普通用户可以识别潜在的公平问题并在贷款决策的背景下解决它们，为评判和解决人工智能的公平性做出贡献。

    Apr, 2022

  • 可解释人工智能 (XAI)：概念、分类、机遇和挑战，助力负责任的人工智能

    本文综述了可解释人工智能（XAI）领域内的现有文献，并对未来的研究前景进行了探讨。我们提出了一种新的可解释性定义，针对各种机器学习模型提出了分类。同时，我们讨论了 XAI 面临的一系列挑战，如数据融合和解释性之间的折衷等。最终，我们的观点指向了 “负责任人工智能” 的概念，在其中强调了 AI 方法在实际组织中的实施中必须保证公平性、模型可解释性和可追溯性。

    Oct, 2019

  • 迈向负责任的人工智能开发生命周期：来自信息安全的启示

    提出了一个框架，将信息安全领域和安全开发生命周期的概念应用到人工智能系统的开发中，以解决公正度、可解释性和科技伦理等方面的问题。

    Mar, 2022

  • 可解释人工智能方法：一项调查

    该研究演示了可解释人工智能的多种方法，并与信用违约预测等任务进行了比较，提出了定量解释性的有意义见解，为开发负责任或以人为中心的 AI 系统提供方向和未来研究方向，有助于在高风险应用中采用 AI。

    Jan, 2021

  • 可解释人工智能中的对抗攻击和防御：一项调查

    该论文对 50 多篇与机器学习模型解释袭击和公正性度量有关的研究进行了简要综述，并讨论了如何防御攻击和设计稳健的解释方法。该论文提出了现有 XAI（可解释人工智能）不安全因素的列表，并概述了 Adversarial XAI（AdvXAI）的新兴研究方向。

    Jun, 2023