Oct, 2023

准确预测与糟糕决策之间：AI/ML 差距

PDF
TL;DR智能代理依赖人工智能 / 机器学习功能来预测可能行动的后果并优化策略。然而，过分追求预测准确性忽视了对效用的准确可靠评估，导致期望效用与实际影响之间存在重大差距。该研究通过量化效用不确定性和概率估计对预期效用的敏感性，比较两者的影响，提出从纯准确性驱动的方法转向更加注重效用的方法。
intelligent agentsprediction accuracyutility assessmentai/ml communityexpected utility
发现论文，激发创造
  • 不确定性感知的人工智能和机器学习：原因和方法

    本文阐述了实现基于不确定性意识的人工智能和机器学习系统在决策支持中的必要性及其面临的挑战，并介绍了当前令人看好的研究方向。通过理论模拟，展示了两种新兴的不确定性意识机器学习和人工智能技术的集成对路径规划操作的价值。

    Sep, 2018

  • 利用不确定性实现公平性

    本研究提出一种旨在平衡公平性和实用性的机器学习分类任务的独特解决方案，它利用贝叶斯学习估计样本预测的不确定性，并通过不确定性量化来定义新型的公平性 - 效用目标，从而实现同时优化公平性和实用性。实证研究发现，具有低分类不确定性的样本比高不确定性的样本更准确、更公平。实验结果表明，该方法在公平性和实用性平衡方面表现优异，并有望在机器学习中实现最佳公平性和实用性。

    Apr, 2023

  • 误信：测量机器学习对人类决策的干扰

    研究人员探究了人们在处理两项困难任务时，对机器学习（ML）建议的信任程度；他们发现，即使人们了解这些任务，并给出了表明该系统不自信的信息，但在执行大部分时间正确的任务时，人们也会相信错误的 ML 建议，并且提供了四种不同类型的系统信息可增加人们对建议的信任，并且数学和逻辑技能对于使用 ML 建议的决策者来说可能与 ML 一样重要。

    May, 2020

  • 人类对齐 AI 辅助决策的校准

    本文研究二元分类器中的置信度值使用，发现对于决策者来说确定何时信任预测很困难，提出了置信度值与决策者自身置信度一致时决策最优且易于发现，提出了多重校准并验证其有效性在 AI 辅助决策场景中。

    May, 2023

  • 衡量人工智能依赖性的统计框架

    通过提出一种统计决策理论为基础的可靠性的正式定义，将研究中对合理依赖的定义与人工智能系统准确预测的信号区分和形成准确信念所面临的挑战分离，为人工智能与人类之间的互补性研究提供了一个可以指导设计和解释的框架。

    Jan, 2024

  • 利用人工智能不确定性量化改善人类决策

    提供 AI 预测信息以及 UQ 信息可以改善人类决策能力，并且这种益处可以在各种 UQ 表示方式中普遍适用。

    Sep, 2023

  • AI 辅助决策中依赖行为和准确性的相互依存性

    本文分析了 AI 辅助决策中人类对模型建议过度或不足的倾向对准确性的影响，并提出了一个可视化框架以帮助比较和解释实证结果和干预策略。

    Apr, 2023

  • 未校准的模型可以提高人工智能协作

    通过改变 AI 模型的置信度，可以提高人类利用 AI 辅助决策的准确性和信任度，强调人类与 AI 系统共同优化的重要性。

    Feb, 2022

  • 人工智能价值对齐的不可能性和不确定性定理（或者为什么您的通用人工智能不应该具有效用函数）

    本文探讨了当存在独立的多维目标且无法互相归约时，将目标形式化地表示为绝对数学函数所面临的困难性，并提出了使用不确定性目标作为一种替代方案。我们证明了，将已知的某些不可能定理转化为两种设置下的不确定定理，并证明了这些不可能结果所蕴含的不确定度的下限。最后，我们提出了两个关于不确定目标与人工智能系统的严重意外后果之间关系的猜想。

    Dec, 2018

  • 训练至关重要的用途：学习将 AI 预测定位于人类知识的相对位置

    本文介绍了一个过程导向的适当依赖概念，称为关键使用，通过将人类的能力与 AI 模型无法获取的知识相对比，以帮助人们辅助 AI 决策时的判断。通过在一个复杂的社会决策环境下进行随机在线实验来探索如何支持关键使用的训练，我们发现通过在这种情况下为参与者提供加速的、低成本的机会来练习 AI 辅助决策，新手参与者开始表现出与经验工作者相似的与 AI 不一致的模式。参与者对其 AI 辅助决策的解释的定性研究表明，他们参考了 AI 模型无法获取的定性案例叙述，以学习何时（不）依赖 AI 预测。我们的研究结果为实现真实世界的 AI 辅助决策的培训提出了新的问题和设计思路。

    Aug, 2023