Nov, 2023

2023 年 ICRA 机器人伦理挑战赛：智能不服从在养老院中的应用

PDF
TL;DR随着老年人口的预计激增，服务机器人提供了提供更好的老年护理机构的方式。本文提出利用智能不服从框架来赋予机器人对具有潜在道德影响的决策进行审议的能力。我们列出了该框架可以帮助解决的问题，在具体的老年护理场景中给出了正式定义，并勾画了实现智能不服从机器人的要求。最后，我们对本文进行了一些关键分析，并提出了未来工作的建议。
service robotselderly care homesintelligent disobedience frameworkethical consequencesdeliberation process
发现论文，激发创造
  • 老年健康中的社会相关机器人

    通过对巴黎一家日间照料养老院中装备有社交和对话交互能力的全尺寸人形机器人进行两波实验，本文试图部分回答多模态对话能力的社交互动机器人在实际环境中是否有用并被接受的问题

    Apr, 2024

  • 反抗和不服从作为人机交互研究中的有用工具 -- 手持机器人案例

    本文探讨了反叛和不服从在人机交互中的应用价值，主要有两个方面：一是揭示合作（或不合作）的有效性，二是在符合用户利益的情况下防止错误并纠正用户行动。通过直接接触的手持机器人交互模式，讨论了反叛和不服从的实用用例，并可适用于其他 HRI 情境。

    May, 2022

  • 智能技术在老年人和照顾者中现状和未来的审视

    该论文主张充分参与老年人在设计过程中，运用人工智能协调资源，解决老年人的需求，提出在全美范围内协调老年人、看护人、社区组织和研究人员的研究努力以推动所有利益相关者的创新和实用研究。

    Mar, 2021

  • 朝隐私关注和个性化的智能助手机器人：一种用户中心的方法

    利用机器学习，协助机器人提供个性化支持的研究，采用面向用户的、注重隐私保护的技术，提出长期护理解决方案，解决数据隐私、个性化和用户体验等挑战，以促进协助机器人的负责任整合。

    May, 2024

  • 人机协作中做对未做错的事情

    本文探讨了社交机器人操作的社会性和公平性决策的重要性，提出了通过避免负面行为而非复制正面行为的新方法学习公平和社交行为。

    Feb, 2022

  • 迈向可验证的道德机器人行为

    本文中，我们将一个常见的验证方法应用于我们的后果引擎，以增强自主系统的道德决策能力。

    Apr, 2015

  • 负责任的自主

    讨论了人工智能伦理学的研究方向，提出了确保人工智能系统行为符合道德和社会价值的替代方法，并介绍了设计和利益相关者价值观提取方法。

    Jun, 2017

  • 降低支持强化学习策略的风险与扩散模型

    应用强化学习和模仿学习改进辅助机器人的策略设计，以提供安全可靠的辅助护理解决方案。

    May, 2024

  • 机器人是否应该服从？

    研究发现，当人不完全理性时，试图推断并根据人类的潜在偏好行动的机器人总是比简单遵循人类命令的机器人表现更好，因此，机器人的服从度与其所有者获得的价值之间存在权衡。

    May, 2017

  • 伦理道德作为人工智能治理工具的效率

    本文对人工智能伦理学的现状进行了批判性分析，并认为基于原则性伦理准则的这种治理形式不足以规范人工智能行业及其开发者。建议通过对人工智能相关专业人员的培训过程和增加对其行业的监管来实现根本性变革。为此，建议法律应从生物伦理学中获益，并将人工智能伦理学的探索成果在法律条文中加以明确规范。

    Oct, 2022