May, 2024

通过结构因果博弈在人工智能与人类交互中实现人类期望的结果

PDF
TL;DR人工智能与人类互动中，通过结构因果博弈的理论框架提出了一种预策略干预算法，以引导人工智能代理实现人类的期望结果，并通过强化学习算法在格子世界环境和实际对话场景中进行了测试，展示出其在更广泛问题和真实世界情景中的适应能力和潜在有效性。
human-ai interactionnash equilibriumstructural causal gamepre-policy interventionreinforcement learning
发现论文，激发创造
  • 通过基于正面人类收益的以人为中心建模方法增强人机协作中的人类体验

    我们提出了一种以人为中心的建模方案，旨在通过强化学习来提高人类与协作智能体合作时的体验，并在多人在线战斗竞技游戏中进行了有效性评估。

    Jan, 2024

  • AI 对齐的社会选择：应对多样化的人类反馈

    基金会模型的微调是为了避免不安全或有问题的行为，而利用人类反馈进行强化学习或采用宪法人工智能的方法，通过社会选择来处理潜在的人类意见分歧并影响模型的行为。

    Apr, 2024

  • 大规模多人游戏中的人工智能与人类协调

    评估人工智能与人类在复杂多智体游戏中的一致性，提出了一种使用可解释的任务集框架评估的方法，重点关注高级行为任务而非低级策略。通过分析人类游戏数据和训练 AI 代理，将人类和 AI 游戏对比，发现人类和 AI 之间存在显著差异，强调在多人游戏中应对人工智能的评估、设计和整合进行清晰解释。

    Feb, 2024

  • 可解释的人工智能与人类互动：一种规划视角

    AI 系统与人类的相互作用中，理解计算机中的心智模型和说明性交流对于实现合作场景和操纵人类期望至关重要。

    May, 2024

  • 游戏因果推理

    本文介绍一种新的框架 —— 结构性因果博弈，它将因果层级扩展到博弈论领域，以及介绍了一种基于因果游戏的 Python 库。该框架支持机械化博弈，定义了因果查询并与其他因果或博弈理论模型进行了比较。

    Jan, 2023

  • 人类对适应性机器的适应趋于博弈论均衡

    本文通过运用机器学习算法与博弈论的框架， 利用多个均衡状态来调节和预测智能人和机器之间的协同适应交互， 并发现某些算法可有效地控制人的行为，从而引导人机交互达到机器的最优状态。

    May, 2023

  • 因果游戏中干预行为的特性描述

    通过在多智能体场景中回答因果询问的概率图模型，扩展因果贝叶斯网络以表示智能体的自由度和目标，放松可行干预的时间顺序限制，提出一种原始因果干预集合来研究复杂干预查询的影响，并通过考虑因果机制设计与承诺，展示到安全人工智能系统的设计。

    Jun, 2024

  • 人本机制设计与民主人工智能

    通过 Democratic AI 方法，使用强化学习算法在参与者中探讨和设计社交机制来解决人工智能与人类价值观的对齐问题，有效缓解了财富分配不均，制止了搭便车行为并成功地赢得了大众的信任和认可。

    Jan, 2022

  • 使用干预学习自主代理端因果模型

    本篇论文介绍了一种基于 agent assessment module 的 AI 系统执行高级指令序列并回答用户问题的方法，通过不同类别的查询来比较这种方法的计算要求和正确模型的学习所需的努力，并介绍了动态因果决策网络来捕捉 STRIPS-like 领域的因果结构。

    Aug, 2021

  • 社会契约 AI：将 AI 助理与隐含的团体规范进行一致化

    模拟框架中，研究通过反转模型来对齐 AI 助手与用户的偏好，并发现 AI 助手在经济最终决策游戏中能够准确对齐行为，但其学习的策略在未包含的情况下缺乏稳健性和普适性，并且发现语言使用与未知策略之间存在不一致时，学习策略的速度会减慢。

    Oct, 2023