IJCAIMay, 2017

机器人是否应该服从？

PDF
TL;DR研究发现，当人不完全理性时，试图推断并根据人类的潜在偏好行动的机器人总是比简单遵循人类命令的机器人表现更好，因此，机器人的服从度与其所有者获得的价值之间存在权衡。
robot obediencehuman preferencesrationalitymodel misspecificationperformance degradation
发现论文，激发创造
  • 当人类不是最佳选择：与风险意识人类合作的机器人

    本文介绍了如何通过风险意识的人类行为模型来安全、高效地进行机器人技术和人类的协同作业过程，旨在预测和规划人类常常表现出的非最优行为。

    Jan, 2020

  • 使机器人能够交流它们的目标

    通过机器模拟对人类推导目标功能的学习过程，选择对人最具信息量的行为，以准确预测机器人在新情境下的行为，为此我们提出了两种候选的近似推断模型，并在自动驾驶领域中进行用户研究，结果表明，某些近似推断模型可以使机器人生成更好的行为示例，从而更好地使用户预测其行为，但我们还需要进一步研究人类从机器人行为示例中的推导过程。

    Feb, 2017

  • 有限理性代理人的决策制定

    通过将有限理性概念与信息论观点相结合，将其融入博弈论框架中以预测自己及其它机器人或人类邻近代理的行为以及在其计算限制下采取行动，模拟与实际实验都证明这种方法可以帮助机器人推理其他代理的不同智能水平并计算出合理的策略。

    Oct, 2022

  • 人机协作中做对未做错的事情

    本文探讨了社交机器人操作的社会性和公平性决策的重要性，提出了通过避免负面行为而非复制正面行为的新方法学习公平和社交行为。

    Feb, 2022

  • 直白还是教育性的人类？分析客观学习中人类模型误设

    研究探讨如何从人类行为中学习目标来指导自主系统的设计，在将目标学习转化为机器人与人之间的博弈时，针对人的行为方式（直接或引导性）作了讨论，并通过实验验证了直接解释更能应对目标设定的误判。

    Mar, 2019

  • 人机交互中模型学习的效用

    本文探讨了在机器人学中，构建世界显式模型和直接学习策略两种不同的方式，以及在人机交互中如何应用心理理论对机器人对人的建模对性能的影响，同时也考虑了理论假设不准确时的影响。

    Jan, 2019

  • 机器人能力和意愿对跨任务基于信任的决策的影响

    本文探讨人类与机器人的协作中，心理模型对信任与决策的影响，并通过一项在线测试发现，人们对机器人的能力和意图的估计与总体自我报告信任强相关。但要做出正确的决策，人们需要（并使用）多面向的心理模型，而不是仅仅校准总体信任水平。

    Sep, 2019

  • 基于观测学习的因果机器人通讯

    介绍了如何应用心理学的学习行为洞见为机器人意图交流提供洞见，并通过从一个动作序列中选择性地解释因果动作的方式，使机器人更有效地传达其目的。

    Mar, 2022

  • 关闭开关游戏

    该研究分析了人类和机器人之间的简单游戏，探讨了理性代理如何允许自己被关闭。研究表明，让机器具有关于其目标的适当程度的不确定性可以导致更安全的设计。

    Nov, 2016

  • LESS is More: 重新思考人类行为的概率模型

    提出一种基于轨迹空间的 Boltzmann 模型来更好地解释人类行为，并在玩具环境和机器人示范中获得更准确的推断结果。

    Jan, 2020