May, 2024

朝着约束合规的目标规划与计划

PDF
TL;DR在一个简单的领域中，我们探索了在不同伦理框架中知识的编码如何影响代理人的目标制定和规划过程，并展示了代理人在相关约束的集合中包含各种类型的 “硬性” 和 “软性” 约束时满足和满足的能力。我们研究了代理人如何尝试遵守伦理约束，这取决于伦理框架，并探讨了以德性导向和功利导向来遵守伦理规范之间的权衡。代表性场景突显了以不同框架对同一规范执行相同任务将导致不同行为。我们的探索表明，在目标制定和规划过程中解决伦理冲突时，元认知判断发挥重要作用。
发现论文，激发创造
  • 基于逻辑的伦理规划

    提出了一个在规划背景下进行伦理决策的框架，旨在应用于机器人。使用线性时间逻辑和词典偏好建模，提出了紧凑但高度表达的伦理规划语言，允许我们评估代理人的价值和欲望，引入了代理人的道德水平概念，并向多目标、多价值规划迈进。初步研究了规划任务的计算复杂性，并讨论了机器人的潜在应用。

    Jun, 2022

  • 通用智能约束遵从性的计算层面分析

    本文探讨了人类行为的约束条件、现实情境中这些限制的复杂性和智能代理如何适应这些约束条件，旨在给出一种通用的约束条件处理方法。

    Mar, 2023

  • 弱约束 ASP 中的行为逻辑悖论

    AI 技术的崛起在面对法律、社会和伦理规范敏感的各种应用中需要决策支持，而规范推理是德意志逻辑的领域，在解决著名的基准问题（德意志悖论）方面存在挑战，并且缺乏高效的计算工具。本文使用 Answer Set Programming (ASP) 来解决这些不足，并展示了如何利用弱约束编码和解决几个著名的德意志悖论。通过抽象和概括这种编码，我们提出了一种将 ASP 与弱约束组合的方法论来翻译规范系统的方法。该方法应用于 “道德” 版本的 Pac-man 游戏中，我们得到了与相关作品相当的性能，但是结果更加符合伦理要求。

    Aug, 2023

  • 可证明符合性引导的强化学习

    本文展示了一种使用利用现有的 normative supervisor 框架的方法，通过 MORL 技术以平衡非道德目标和避免违规的道德目标，在自主代理中实现安全、道德或合法行为，且不受惩罚强度大小的影响。

    Mar, 2022

  • 指挥官意图：战略游戏中人工智能任务规定的数据集和建模方法

    该论文提出一种使用目标和约束作为支架来调节和评估自主代理，并通过提供一种新颖的数据集和相关的数据收集协议，利用最先进的自然语言处理模型和增强程序开发了一种可用于从非结构化策略描述中识别目标和约束的机器学习框架，其结果表明，机器学习架构比人类评分员更能将非结构化语言描述解释为策略规范。

    Aug, 2022

  • 问题表述与公平性

    探讨数据科学中问题制定的复杂性，指出问题制定中的规范评估常常被视为理所当然，然而这些评估可能会引发截然不同的伦理问题，并提出了实际问题制定工作的重要性。

    Jan, 2019

  • 人类认知效率反映了计划信息处理

    通过两个实验，本文将计划的计划表述为元推理问题，并用一个递归贝尔曼目标来形式化计划。 我们的研究成果在规划、状态抽象和认知控制方面提供了新的见解。

    Feb, 2020

  • 使用回答集编程对自主代理进行惩罚框架

    该论文提出了一个框架，用于对不遵守授权或义务政策的智能体进行处罚，在一个动态环境中进行推理。框架可以表示和推理与计划相关的处罚，并提出了一个算法，根据智能体在授权和义务政策方面的遵从程度来对其行为进行处罚。论文指出，除非有拯救人类生命等紧急目标，智能体可以根据最小总处罚选择计划。该框架可以惩罚不服从命令的智能体。

    Aug, 2023

  • 在计算资源限制下推理信念和行动

    讨论在计算能力不足时使用替代逼近过程和启发式方法以及使用用户效用结构对推理进行量身定制来平衡部分结果的成本和收益的应用决策理论来解决困难问题的解决方案。

    Mar, 2013

  • 关于目标设定的规范自我管理理论探讨

    通过资源合理性原则、计算模型等方法来推导出一系列最优的子目标，从而为个人和管理者的目标设定提供可行的建议并且提高他们的问题解决性能。

    Feb, 2023