信息不足”：解释对自动化决策中信息公平与可信度知觉的影响

May, 2022

信息不足”：解释对自动化决策中信息公平与可信度知觉的影响

"There Is Not Enough Information": On the Effects of Explanations on Perceptions of Informational Fairness and Trustworthiness in Automated Decision-Making

PDF

Jakob Schoeffer, Niklas Kuehl, Yvette Machowski

TL;DR本研究通过人体实验来评估不同的信息类型和信息量对自动贷款批准领域的 ADS（Automated Decision System）的信息公正性和值得信赖度的影响，发现信息量和人的人工智能素养显著影响信息公正性，从而影响 ADS 的可信度。同时，对资料的详尽性、一致性、披露单调关系以及建议的可操作性等方面提出明确的要求。

Abstract

automated decision systems (ADS) are increasingly used for consequential decision-making. These systems often rely on sophisticated yet opaque machine learning models, which do not allow for understanding how a given decision was arrived at. In this work, we conduct a human subject stu

automated decision systems machine learning models informational fairness trustworthiness explanations

发现论文，激发创造

关于解释、公平感知和决策之间的关系

研究人员探讨了 AI 系统推荐错误或不公平的情况下，人工干预的必要性，并提供了关于解释、公平感知、依赖和分布公平性之间关系的理论框架，但文献并没有提供确凿证据证明解释在实践中实现了这种补充关系。

Apr, 2022

算法决策中公平和透明的人本视角

该论文探讨了自动化决策系统在人类决策中的作用和不足，旨在通过深入研究来理解决策主体对于基于自动化决策系统的透明度的决策的不同感受，确保决策的质量、公正以及人性化。

Apr, 2022

人工智能决策中的解释、公平性和适当依赖

研究了基于 AI 解释和分布式公平性之间的关系，发现解释会影响公平感知，从而与人类对 AI 建议的依赖关系发生关联。该研究表明，基于特征的解释并不是改善分布式公正性的可靠机制。

Sep, 2022

解释模型：解释对公正评判的影响的经验研究

通过一项关于程序生成解释的实证研究，我们发现不同类型的解释如何影响人们对机器学习系统的公平判断，其中某些解释可增强人们对算法公正性的信心，但也有部分解释会被认为是不公平的，此外，不同类型的解释也能更有效地揭示不同的公平问题，因此我们讨论了提供个性化和自适应的解释来支持机器学习系统的公平判断。

Jan, 2019

人工智能决策中解释对公平性的影响：受保护特征与代理特征

AI 系统中的偏见可以通过解释来帮助人工智能团队应对这些偏见，提高决策公正性，但解释可能无法揭示间接偏见，需要通过模型偏见披露和代理特征相关性披露来改善模型公平性感知和决策公正性。

Oct, 2023

模型准确性和解释透明度如何影响用户信任

研究表明，在机器学习中，准确度比可解释性更重要，添加解释可能会损害用户信任，同时高度真实的解释不能欺骗用户的信任，用户的信任感与其实际表现不符。

Jul, 2019

有意义的信息：探究受到算法决策影响的人的信息需求

为了解决人工智能系统解释信息与受影响利益相关者信息需求之间的差距，本研究通过两个算法决策场景中受访者的采访研究，提出了 “XAI 初学者问题库”，总结了信息需求的类别和挑战，并影响了受访者对系统风险和好处的感知.

Jan, 2024

寻求可验证性：解释很少能够在 AI 辅助的决策判断中提供补充性的表现

本文聚焦 AI 辅助决策，在 AI 解释人类决策过程中频繁失败的背景下，提出了一个简单的理论，即解释只有在允许决策者验证其正确性时才有用，我们讨论了更有效的 AI 决策解释方法和人工智能 - 人类决策的协作。

May, 2023

自动决策中人工解释的何为、何故、何如

介绍了解释在人工智能和机器学习决策系统中所扮演的角色，提供了解释的替代概念，并评估了现有解释方法和所需的特点。

Aug, 2018

迷失于能力中：评估解释对用户对视觉问答系统的心智模型的影响

我们研究了当一个 AI 系统遇到一项不能完美执行的任务时，用户如何看待其限制，并且提供解释是否有助于用户构建系统能力和限制的适当心理模型。通过控制视觉输入，在视觉问答解释任务中，我们操控 AI 系统的限制：在推理过程中，该系统可以处理全彩色或灰度图像。我们的目标是确定参与者是否能够察觉到该系统的限制。我们假设解释会使有限的 AI 能力对用户更加透明。然而，我们的研究结果显示解释没有这种效果。与其实际表现无关，解释通常会增加用户对系统能力的认知。

Jun, 2024