通用智能约束遵从性的计算层面分析
讨论在计算能力不足时使用替代逼近过程和启发式方法以及使用用户效用结构对推理进行量身定制来平衡部分结果的成本和收益的应用决策理论来解决困难问题的解决方案。
Mar, 2013
我们对神经网络模型学习算法进行了分类，并提出了一种新的算法来整合主任务信息和约束注入，同时提出了 $Heta$-score 作为度量主任务度量和约束违规的指标，在自然语言推理、合成传导示例和语义角色标记等自然语言处理任务上探索和揭示了各种算法达到高 $Heta$-scores 的关键因素。
Jun, 2024
该研究提出了一种基于论证对话的人工智能体架构，将人类规则映射到可以解释行为的人工智能文化中，并通过用户研究验证了其有效性，结果表明当系统更加复杂时，解释可以显著提高人类绩效表现。
Nov, 2019
该论文提出一种使用目标和约束作为支架来调节和评估自主代理，并通过提供一种新颖的数据集和相关的数据收集协议，利用最先进的自然语言处理模型和增强程序开发了一种可用于从非结构化策略描述中识别目标和约束的机器学习框架，其结果表明，机器学习架构比人类评分员更能将非结构化语言描述解释为策略规范。
Aug, 2022
生物和人工智能在决策过程中都受到信息处理能力的限制，因此一般的自适应行为理论应该考虑代理的学习历史、决策和能力约束之间的复杂交互。最近的计算机科学研究开始通过强化学习、贝叶斯决策制定和速率失真理论中的思想来澄清这些动态的形成规律。这项研究成果提出了基于能力限制的贝叶斯强化学习的规范框架，用于模拟处理约束对学习和行动选择的影响。本文对这一领域的最新算法和理论结果进行了简明审视，特别关注如何将这些思想应用于认知和行为科学中的问题。
May, 2023
在一个简单的领域中，我们探索了在不同伦理框架中知识的编码如何影响代理人的目标制定和规划过程，并展示了代理人在相关约束的集合中包含各种类型的 “硬性” 和 “软性” 约束时满足和满足的能力。我们研究了代理人如何尝试遵守伦理约束，这取决于伦理框架，并探讨了以德性导向和功利导向来遵守伦理规范之间的权衡。代表性场景突显了以不同框架对同一规范执行相同任务将导致不同行为。我们的探索表明，在目标制定和规划过程中解决伦理冲突时，元认知判断发挥重要作用。
May, 2024
本文旨在构建一个计算框架，基于仿神经模型的方法，实现分层的人类智能十诫，为发展更加智能、可解释、通用的人工智能系统提供指引。
Oct, 2022