Jan, 2020

AI 辅助决策中置信度和解释对准确性和信任校准的影响

PDF
TL;DR研究了基于不同特征的人工智能辅助决策场景下，人类对人工智能的信任度与信任度校正，以及人类与人工智能协同工作的影响因素。结果表明，人类信任度的校正能够通过特定的置信度得到有效提高，尽管人类的专业独特知识对于决策的最终结果有良好的辅助作用，但同时也存在着使用本地解释会出现的问题。因此，我们需要探索新的可信度解释方法来更好地衡量和校正人类对人工智能的信任度。
ai-assisted decision makingtrust calibrationhuman-ai collaborationlocal explanationperformance improvement
发现论文，激发创造
  • 为什么不两者兼顾？在人工智能协作中，通过不确定性来补充解释和自信心的作用

    本研究进行实证研究，以确定不确定性估计和模型解释对用户对模型的信任和理解的影响，探讨如何将自信度纳入分析结果以提高决策求同的准确性。

    Apr, 2023

  • 使用反事实解释模型置信度提升模型理解和信任

    本文阐述了反事实解释信心分数是如何帮助用户更好地理解和更好地信任 AI 模型的预测，在人机交互系统中展示信心分数可以帮助建立人类和 AI 系统之间的信任，提出了两种用于理解模型信心的方法：(1) 基于反事实例；和 (2) 基于反事实空间的可视化。

    Jun, 2022

  • 未校准的模型可以提高人工智能协作

    通过改变 AI 模型的置信度，可以提高人类利用 AI 辅助决策的准确性和信任度，强调人类与 AI 系统共同优化的重要性。

    Feb, 2022

  • 模型准确性和解释透明度如何影响用户信任

    研究表明，在机器学习中，准确度比可解释性更重要，添加解释可能会损害用户信任，同时高度真实的解释不能欺骗用户的信任，用户的信任感与其实际表现不符。

    Jul, 2019

  • 人类对齐 AI 辅助决策的校准

    本文研究二元分类器中的置信度值使用，发现对于决策者来说确定何时信任预测很困难，提出了置信度值与决策者自身置信度一致时决策最优且易于发现，提出了多重校准并验证其有效性在 AI 辅助决策场景中。

    May, 2023

  • 理解反事实解释对人工智能辅助临床决策中信任与依赖的影响

    通过使用显著特征解释和假设性解释来更加分析性地对待人工智能建议，可以降低对人工智能的过度依赖，提高医疗决策过程中的性能和一致性，尤其是在确保人工智能提供正确输出的情况下。

    Aug, 2023

  • 校准解释：带不确定信息和反事实分析

    本文介绍了一种基于 Venn-Abers 的新型特征重要性解释方法 Calibrated Explanations，该方法能校准底层模型、生成特征重要性解释并对概率估计和特征重要性权重进行不确定性量化。此外，该方法对模型没有偏见、规则易于理解、可生成反事实解释和不确定性量化。

    May, 2023

  • 利用反事实分析解释模型确信度

    本文探究面向人工智能交互中置信度得分的反事实解释如何增强人对机器学习模型预测的理解和信任，并提出了两种理解置信度得分的方法，即基于反事实案例和基于反事实空间可视化，这两种方法可以相互补充，但也存在异同，因此需要进一步研究和设计更加精准有效的解释方法和应用场景。

    Mar, 2023

  • AI 与自我，应该信任谁？运用人工智能和人类正确性可能来促进正确的信任，以助于决策

    该研究针对 AI 辅助决策中人类决策者何时应该信任 AI，何时应该信任自己的问题，提出了基于任务实例级别的双方正确概率计算及三种信任校准策略，并进行了两项初步研究和一项比较实验，结果表明该方案的效果显著提高了人类对 AI 的适当信任，为更人性化的 AI 决策提供了实用意义。

    Jan, 2023

  • 人的直觉在人工智能决策中的依赖作用及其解释

    此研究探讨了决策者对于任务预测和解释的一些直觉，发现了三种类型的直觉：关于任务结果、特征和 AI 限制。此外，该研究还通过两种类型的解释，探索了决策者如何运用自己的直觉来决定是否应该依赖 AI 预测，并发现了三条决策者运用自己直觉的路径。研究表明，AI 解释并不能总是提高决策者的决策效果并可能提高其对 AI 的过度依赖，但使用基于示例的解释则可能有助于完善人工智能的表现。

    Jan, 2023