AAAIOct, 2022

BIASeD: 将非理性引入自动化系统设计

PDF
TL;DR本文主张人工智能系统需要模拟、理解、甚至复制人类的认知偏差，在人机协作中扮演更加重要的角色，并提出了关于人类认知偏差和人工智能之间相互作用的研究议程及三个感兴趣的广泛领域，并为具有更好对人类偏见的人工智能系统的设计方向提出了研究方向。
cognitive biasesheuristicsartificial intelligencehuman-machine collaborationresearch agenda
发现论文，激发创造
  • 为何需要有偏倚的人工智能 —— 如何通过引入认知和伦理机器偏差来增强人工智能系统

    本文阐述了人类认知偏差在人工智能领域中的重要性，并提出了在学习算法中结构上实施认知偏差以及为选择具有道德价值的社会或行为特征的偏向训练刺激应用过滤机制，结合七个具体的偏见实现情景案例，将来自认知科学和伦理学的启示应用于人工智能领域，是对重新评估机器偏见道德意义的探索和实施认知偏差到机器中的首次尝试。

    Mar, 2022

  • 快与慢的决策：认知偏见在 AI 辅助决策中的作用

    利用认知科学的知识建立数学模型并提供了一个普遍的框架，用于理解认知偏差和人工智能精度之间的相互作用，特别是锚定偏差，通过一项有效的时间分配策略，成功提高了人工智能的协作性能。

    Oct, 2020

  • 将基于人工智能的决策制定与非理性人类行为调和：一种量子概率方法

    使用量子理论的数学框架，建立一种建模框架来解释和预测认知偏差，在智能系统与人类互动中实现更好的人机交互。

    Aug, 2018

  • 可解释 AI 对自动化偏见的影响

    本研究旨在探讨可解释人工智能对自动化偏见的潜在影响。利用一个酒店评价分类的在线实验，实验证明可解释 AI 可以降低自动化偏见，从而帮助设计和开发安全的混合智能系统。

    Apr, 2022

  • 人感知 AI 系统的挑战

    讨论了设计人类感知人工智能系统面临的挑战，包括建模人类的心理状态、识别其愿望和意图、提供主动支持、展示可解释性行为、并引发信任等，并强调这种系统引出的伦理困境和推广真正跨学科合作的必要性。

    Oct, 2019

  • 认知偏差可能对基于规则的机器学习模型解释的影响综述

    讨论机器学习模型的可解释性应当从认知科学的角度考虑，并探讨认知偏差对于人类理解基于数据挖掘发现的逻辑规则的可解释机器学习模型的影响，提出算法设计师可以采取的去偏执技巧。该综述旨在弥合认知心理学和机器学习之间的差距，但需要进一步关注机器学习领域的系列实证研究。

    Apr, 2018

  • 人工智能与人类的融合决策系统学习范式

    每天我们越来越依赖于机器学习模型来自动化和支持高风险任务和决策。这篇论文提出了混合决策系统的分类法，提供了一个概念和技术框架，以理解当前计算机科学文献中的人机交互模型。

    Feb, 2024

  • 人类行为建模 Part II -- 认知方法与不确定性

    本文讨论以人类认知能力、局限性和偏见为基础的学习方法，并介绍一些方法来产生和利用对人类决策或未来决策结果的偏见或不确定性的表示。

    May, 2022

  • 关于人工智能和人类协同招聘团队表现和偏见的研究

    探讨了使用 AI 辅助决策时，人工智能的预测性能与偏差如何对人类决策产生影响的复杂动态，并通过大规模用户研究发现，高性能的模型显著提高了人类在混合环境中的表现，但有些模型削弱了混合偏见，有些则加重了混合偏见。这些研究结果表明，预先评估这些复杂动态对于部署人工智能具有明确的必要性。

    Feb, 2022

  • 一种错误易发人工智能和人类代理之间的委派认知框架

    研究人工智能系统和人类在同一环境下应怎样理解和相应对方行为，通过认知模型预测双方行为并通过中介控制实现目标的达成。

    Apr, 2022