本文总结了第一次 NeurIPS 2021 NetHack Challenge 的主要论点，该挑战赛旨在使用强化学习或符号学习等方法开发一个程序或代理，与 NetHack 学习环境进行交互，以赢得这个迷宫探索游戏。结果表明，符号 AI 目前在 NetHack 中的表现远优于深度强化学习，并且没有代理成功通关游戏，NetHack 由此成为一个长期的 AI 研究基准。

Mar, 2022

近期的大型语言模型（LLMs）展示了在智能代理和下一代自动化方面的巨大潜力，但目前缺乏一个系统性的基准来评估 LLMs 作为代理的能力。我们介绍了 SmartPlay：一个具有挑战性的基准和评估 LLMs 作为代理的方法论。SmartPlay 包括 6 个不同的游戏，包括石头剪刀布、汉诺塔、Minecraft。每个游戏都有独特的设定，提供最多 20 个评估设置和无限的环境变化。SmartPlay 中的每个游戏独特地挑战了智能 LLM 代理的 9 个重要能力的子集，包括处理对象的依赖关系、提前规划、空间推理、从历史中学习和理解随机性。每个游戏测试的能力集之间的区别使我们能够单独分析每个能力。SmartPlay 不仅是一个用于评估 LLM 代理整体性能的严格的测试平台，也是识别当前方法论中的空白的路线图。我们在 github.com/LLMsmartplay/SmartPlay 发布了我们的基准。

Oct, 2023

本文研究了神经政策学习在 NetHack 游戏中的表现，分析了符号代理与神经代理在这种环境中的性能差距，并通过建立一个大规模的演示数据集，在动作层次结构、神经架构增强和强化学习与模仿学习的整合方面进行了详细研究。结果表明，我们的神经代理在离线设置和中位游戏分数的在线设置方面均比以前的全神经政策高出了 127％和 25％，但我们也证明仅仅通过扩展网络规模无法弥合符号模型或甚至是顶尖人类玩家的性能差距。

May, 2023

本文介绍了一种基于 Roguelike 游戏 NetHack 的可扩展、程序生成、随机、丰富且具有挑战性的强化学习环境 NLE，它足够复杂以驱动长期探讨诸如探索、规划、技能获取和语言有条件 RL 等问题的研究，并且在大量经验收集方面大大降低了计算资源的要求。

Jun, 2020

介绍了 NetHack Learning Dataset（NLD）—— 一个高度可扩展的来自于极具挑战的游戏 NetHack，包含 10 亿个状态转换的大型数据集，研究展示了需要深入探讨在线离线强化学习以及学习演示等算法，才能更好地应用于挑战性的顺序决策制定任务。

Nov, 2022

基于大型语言模型（LLM）的代理通信和社交互动的最新进展，尽管这些进展，但在涉及竞争和协作的动态环境中构建面向推理的 LLM 代理仍然具有挑战性，由于受到知情图搜索方法的局限性。我们提出了 PLAYER*，这是一种基于任意采样的规划器的新型框架，它利用传感器和修剪器，为复杂的推理任务提供了一个纯问题驱动的搜索框架。我们还引入了一种可量化的评估方法，使用多项选择题构建了包含 1,482 个问答对的 WellPlay 数据集。实验证明，与现有方法相比，PLAYER * 在具有可量化结果的复杂动态环境中提供了效率和性能的改进。

Apr, 2024

利用预训练的大型语言模型作为网络安全环境中攻击代理，模拟真实网络攻击并在复杂决策任务中展现良好性能。

Aug, 2023

本研究使用大型语言模型 (Large Language Models, LLMs) 作为规划师，以完成视觉感知环境中的复杂任务的具有身体接口的代理人。研究提出了 LLM-Planner 方法进行 few-shot planning，同时提出通过物理接口增强 LLMs 的简单而有效的方法，实验结果表明该方法在 ALFRED 数据集上能够取得与使用全数据训练的基线模型相当的性能。

Dec, 2022

我们提出了一种新型基础设施，名为 MindAgent，用于评估游戏交互中的规划和协调能力，并引入了新的游戏场景和相关基准，以评估多智能体协作效率。我们使用新的自动度量 CoS 进行全面评估。我们希望我们对大型语言语料库学习的 LLMs 以及用于通用调度和协调的新基础设施的发现能够揭示如何获取这些技能的一些见解。

Sep, 2023

大型语言模型与符号规划器结合的神经符号框架，为解决涉及体验代理的复杂计划任务提供更快速和高效的解决方案。

Aug, 2023