Aug, 2023

使用回答集编程对自主代理进行惩罚框架

PDF
TL;DR该论文提出了一个框架，用于对不遵守授权或义务政策的智能体进行处罚，在一个动态环境中进行推理。框架可以表示和推理与计划相关的处罚，并提出了一个算法，根据智能体在授权和义务政策方面的遵从程度来对其行为进行处罚。论文指出，除非有拯救人类生命等紧急目标，智能体可以根据最小总处罚选择计划。该框架可以惩罚不服从命令的智能体。
发现论文，激发创造
  • 用于授权和义务政策细化的 ASP 框架

    本文介绍了一种用于帮助政策作者细化和改进政策的框架，重点关注可在 Gelfond 和 Lobo 的 AOPL 语言中进行编码的授权和义务政策。该框架使用 Answer Set 编程来检测使政策不一致、不充分或有歧义的语句，并关注授权和义务政策交集出现的问题。

    May, 2023

  • 以同意为负责任自主的基础

    本文提出了关于如何实现运行时智能代理负责任的动态方面。首先，提供了关于同意的概念分析，以及如何理解同意可以帮助实现负责任的自主性。其次，概述了人工智能所面临的挑战，特别是代理和多智能体系统，在多智能体系统中建模同意并应用同意实现负责任性的基础。

    Mar, 2022

  • 面向会话式 AI 系统的受控自学习的受限策略优化

    本研究提出了一种可扩展的框架处理个别领域的细粒度探索目标，通过用户定义的限制来确保商业关键领域的政策偏差较少，并将更多的探索预算分配到音乐等领域，提出的方法通过一个元目标调整约束违规惩罚项的自适应，鼓励领域间平衡的约束满足，实验结果表明该方法在政策价值和约束满足率之间实现了最佳平衡。

    Sep, 2022

  • 可证明符合性引导的强化学习

    本文展示了一种使用利用现有的 normative supervisor 框架的方法，通过 MORL 技术以平衡非道德目标和避免违规的道德目标，在自主代理中实现安全、道德或合法行为，且不受惩罚强度大小的影响。

    Mar, 2022

  • 博弈论目标空间规划

    本文通过提出基于游戏理论规划者的智能车辆监管方案，并结合后悔最小化技术，用以优化智能车辆的胜率，实现多智能体环境下的自主行驶。

    Sep, 2022

  • 朝着约束合规的目标规划与计划

    在一个简单的领域中，我们探索了在不同伦理框架中知识的编码如何影响代理人的目标制定和规划过程，并展示了代理人在相关约束的集合中包含各种类型的 “硬性” 和 “软性” 约束时满足和满足的能力。我们研究了代理人如何尝试遵守伦理约束，这取决于伦理框架，并探讨了以德性导向和功利导向来遵守伦理规范之间的权衡。代表性场景突显了以不同框架对同一规范执行相同任务将导致不同行为。我们的探索表明，在目标制定和规划过程中解决伦理冲突时，元认知判断发挥重要作用。

    May, 2024

  • 学习向人类请求丰富和有上下文作用的信息的框架

    通过使用互动框架，让人类协助 AI agent 克服自身局限，并在以前未见过的环境中解决导航问题。

    Oct, 2021

  • GIN：自动驾驶中基于图形交互感知约束策略优化

    本文提出了一种基于图卷积网络的互动感知约束优化方法，通过同时训练运动预测和控制模块并共享一个包含社交上下文的潜在表示来鼓励安全驾驶和预测运动。实验结果表明，这种方法在 CARLA 城市驾驶模拟器上具有比基线更好的导航策略和运动预测性能。

    Jun, 2022

  • 通过答案集编程生成叙述来探索隐私政策的后果

    使用 ASP（Answer Set Programming）的框架，将隐私政策形式化为叙事规划空间上的约束，并通过 HIPAA 的范例演示如何使用该系统来询问可能性并确定给定事件序列中违反法律条款的内容。

    Dec, 2022

  • 分析自主智能体在不确定性下的有意行为

    通过量化有意行为的证据来分析自治代理的行为，该方法适用于动态和不确定环境下区分人为意外和故意行为的问题，并且通过对相关情景的自动生成以提高评估的准确性。

    Jul, 2023