代理人与设备:一种相对定义的代理概念
采取 Dennett 的意图态度和类比推理作为理解未预见行为的主要计算机制,使多个过去的经验可以混合来解释未预见的事件,从而推出更有意义的叙述主体行为。研究提供用于在加油站环境中通过类比方法实现新体验理解的简单用例。
Nov, 2022
本文提出了第一个正式的有关案例的因果定义 - 粗略地说,机构是指如果其行动以不同的方式影响世界将适应其策略的系统。从此,我们推导出了第一个通过实证数据发现代理的因果发现算法,并提供了在因果模型和博弈理论影响图之间进行转换的算法。我们通过解决一些由于错误的因果建模导致的先前混乱来演示我们的方法。
Aug, 2022
通过在结构因果影响模型中引入意图的形式定义,我们展示了这个定义捕捉到意图的直观概念,并满足了过去工作设定的期望。此外,我们还展示了我们的定义如何与过去的概念相联系,包括实际因果关系和安全 AI 代理文献中的核心概念 —— 工具性目标。最后,我们演示了如何从行为中推断强化学习代理和语言模型的意图。
Feb, 2024
本研究通过社会认知理论构建了一个特征框架,对代表人类意图、动机、自我效能和自我调节的 Agency 进行了量化和控制,并提供了一个新的数据集,评估当前对话系统中代理能力的发展和潜力。
May, 2023
通过量化有意行为的证据来分析自治代理的行为,该方法适用于动态和不确定环境下区分人为意外和故意行为的问题,并且通过对相关情景的自动生成以提高评估的准确性。
Jul, 2023
介绍了一种能够帮助代理人处理不确定性的概率信念模型并建议了一种能够捕捉代理人信念状态的简单公理化方法,该方法基于 Reiter 等人开发的行动的一般逻辑理论并在情境演算中进行形式化。
Sep, 1998
通过使用过程生成的三维动画构建了一个基准测试,并通过人类评分验证了该基准测试,结果表明,要在人类水平上通过基础直觉心理学的设计测试,模型必须获得或具有代理计划的内置表示,该测试结构围绕四个场景,并比较了两个强大的基线建立在贝叶斯逆规划和心灵理论神经网络上。
Feb, 2021
为了确保人工智能系统的安全性和长期代理的保留,应该将人工智能系统设计为优先考虑代理的保留而不是人类意图的一致性,并且应该在 “代理基础” 领域进行研究,以改进我们对人工智能与人类交互中代理的理解。
May, 2023
AI 系统的关键是提供用户可以理解和采取行动的解释。本论文通过对认知科学和解释相关的文献研究,以及调查人们对自主驾驶车辆行为解释的生成和评价,发现人们倾向于用目的论解释决策和行为,无论是对于其他人还是自主驾驶车辆都表现出这一倾向。研究结果促进了对于自主驾驶决策的人工注释视频情况和解释数据集 (HEADD) 的进一步研究。
Mar, 2024