Sep, 2022

人工智能决策中的解释、公平性和适当依赖

PDF
TL;DR研究了基于 AI 解释和分布式公平性之间的关系，发现解释会影响公平感知，从而与人类对 AI 建议的依赖关系发生关联。该研究表明，基于特征的解释并不是改善分布式公正性的可靠机制。
explainable aialgorithmic fairnesshuman perceptionreliance behaviordistributive fairness
发现论文，激发创造
  • 关于解释、公平感知和决策之间的关系

    研究人员探讨了 AI 系统推荐错误或不公平的情况下，人工干预的必要性，并提供了关于解释、公平感知、依赖和分布公平性之间关系的理论框架，但文献并没有提供确凿证据证明解释在实践中实现了这种补充关系。

    Apr, 2022

  • 人工智能决策中解释对公平性的影响：受保护特征与代理特征

    AI 系统中的偏见可以通过解释来帮助人工智能团队应对这些偏见，提高决策公正性，但解释可能无法揭示间接偏见，需要通过模型偏见披露和代理特征相关性披露来改善模型公平性感知和决策公正性。

    Oct, 2023

  • 采用以人为本的 AI 方法实现公平公正可解释 AI

    本文探讨了机器学习中公平性、可解释性、人本主义、社会偏差等问题，并提出了一种以人为本的人工智能方法，以增强分类系统和单词嵌入的可解释性和公平性，通过 D-BIAS 等可视化工具识别和缓解社会偏见。

    Jun, 2023

  • 解释模型：解释对公正评判的影响的经验研究

    通过一项关于程序生成解释的实证研究，我们发现不同类型的解释如何影响人们对机器学习系统的公平判断，其中某些解释可增强人们对算法公正性的信心，但也有部分解释会被认为是不公平的，此外，不同类型的解释也能更有效地揭示不同的公平问题，因此我们讨论了提供个性化和自适应的解释来支持机器学习系统的公平判断。

    Jan, 2019

  • 人的直觉在人工智能决策中的依赖作用及其解释

    此研究探讨了决策者对于任务预测和解释的一些直觉，发现了三种类型的直觉：关于任务结果、特征和 AI 限制。此外，该研究还通过两种类型的解释，探索了决策者如何运用自己的直觉来决定是否应该依赖 AI 预测，并发现了三条决策者运用自己直觉的路径。研究表明，AI 解释并不能总是提高决策者的决策效果并可能提高其对 AI 的过度依赖，但使用基于示例的解释则可能有助于完善人工智能的表现。

    Jan, 2023

  • 关于解释不公正现象的概述

    算法公平性和可解释性是实现负责任人工智能的基本要素。本文关注它们之间的相互关系，即最近受到越来越多关注的研究领域。我们首先提出了两种综合分类法，分别代表了公平性和解释两个互补的研究领域。然后，我们将用于公平性的解释分为三种类型：（a）用于增强公平指标的解释，（b）用于帮助我们理解（不公平）原因的解释，以及（c）用于辅助我们设计缓解不公平性方法的解释。最后，基于我们的公平性和解释分类法，我们提供了未曾涉足的文献路径，揭示了可以作为未来研究宝贵见解的空白领域。

    Feb, 2024

  • 解释可减少决策中对 AI 系统的过度依赖

    本文探讨了人类和人工智能决策团队的过度依赖现象，提出了一种基于成本效益框架的策略模型来平衡 AI 解释带来的成本和效益，证明了在某些情况下 AI 解释可降低过度依赖。

    Dec, 2022

  • 信息不足”：解释对自动化决策中信息公平与可信度知觉的影响

    本研究通过人体实验来评估不同的信息类型和信息量对自动贷款批准领域的 ADS（Automated Decision System）的信息公正性和值得信赖度的影响，发现信息量和人的人工智能素养显著影响信息公正性，从而影响 ADS 的可信度。同时，对资料的详尽性、一致性、披露单调关系以及建议的可操作性等方面提出明确的要求。

    May, 2022

  • 在交互式人机协同 AI 公平性中促进最终用户的参与

    我们探索了一种人机交互界面的设计，使得普通用户可以识别潜在的公平问题并在贷款决策的背景下解决它们，为评判和解决人工智能的公平性做出贡献。

    Apr, 2022

  • 挑战功能归因解释中的常见可解释性假设

    通过人类实验，我们发现属性解释法在某些情况下会导致决策者做出更糟糕的决策，这一结果挑战了应用这些方法的普遍好处的假定，在可解释的 AI 研究中人类评价的重要性下应该得到重视。

    Dec, 2020