关于考虑人类对人工智能行为的实用性在人工智能协作中的论述

Jun, 2024

关于考虑人类对人工智能行为的实用性在人工智能协作中的论述

On the Utility of Accounting for Human Beliefs about AI Behavior in Human-AI Collaboration

Guanghui Yu, Robert Kasumba, Chien-Ju Ho, William Yeoh

TL;DR通过考虑人类行为与人类信念，设计 AI 代理以促进与人类的协作，实现了更准确预测人类对 AI 行为的信念，并提升了人工智能与人类协作的性能。

Abstract

To enable effective human-ai collaboration, merely optimizing AI performance while ignoring humans is not sufficient. Recent research has demonstrated that designing →

human-ai collaboration human behavior ai agents human beliefs performance

发现论文，激发创造

人类行为建模第一部分 -- 学习和信念方法

本文简明扼要地综述了人类行为量化模型领域中最重要的两个方法：基于探索和反馈学习模型或策略的技术以及直接模拟人类推理机制（思想和偏见）而无需通过试错法进行学习。

May, 2022

模拟人工智能团队决策

研究表明，当涉及到风险元素和评估人类和 AI 代理能力的探索利用过程时，人工智能和人类在小组决策方面具有互补技能。本文面向一组带有缺陷的 AI 代理人，向人类团队提交一系列智力问题，以评估团队成员和可用 AI 代理人的相对专业知识，评估不同行动的风险并通过达成共识来最大化整体回报，并提出了人工智能 - 人类团队决策的模型。研究验证了在不确定情况下的人工智能团队和人类行为预测中的前景理论、影响动态和贝叶斯学习的社会认知构建的价值。

Jan, 2022

利用人工智能行为描述改善人工智能与人类的协作

研究表明，向人们显示 AI 系统的高层行为特征是帮助人们在决策过程中恰当地依赖 AI 的关键，这将大大提高 AI 援助下的决策准确性。

Jan, 2023

通过基于正面人类收益的以人为中心建模方法增强人机协作中的人类体验

我们提出了一种以人为中心的建模方案，旨在通过强化学习来提高人类与协作智能体合作时的体验，并在多人在线战斗竞技游戏中进行了有效性评估。

Jan, 2024

现实世界复杂环境中的人工智能协作与强化学习

在复杂的模拟环境中，研究表明人工智能与人类的合作胜过仅有人类或仅有人工智能代理的情况，并开发出了一种用户界面，使人类有效地协助人工智能代理。

Dec, 2023

解构人工智能协作：主体性、互动和适应

提出了一个新的统一维度的概念模型，围绕着机构、交互和调适三个高层面展开，通过文献调查和半结构化访谈的方法逐步完善和验证。最后，利用这个设计空间对选定的人工智能系统进行结构化描述。