EMNLPDec, 2023

LDM$^2$：一种模拟人类认知的大型决策模型与动态记忆增强

PDF
TL;DR我们提出了一种名为 LDM^2 的新型模型，它利用动态记忆机制来构建动态提示，根据所面临的状态引导大型语言模型做出适当的决策。在两个交互环境中进行的广泛实验证明了 LDM^2 在得分和成功率方面优于基线模型，证明了其有效性。
large language modelsartificial general intelligencedynamic promptsmemory mechanismdecision processes
发现论文，激发创造
  • LLM 动态规划

    大型语言模型与符号规划器结合的神经符号框架，为解决涉及体验代理的复杂计划任务提供更快速和高效的解决方案。

    Aug, 2023

  • DeLLMa：一种基于大型语言模型进行不确定性决策的框架

    大型语言模型（LLM）在商业、工程和医学等领域日益广泛应用。本文提出了 DeLLMa（不确定环境下的决策型大型语言模型助手）框架，通过多步骤的脚手架过程，绘制决策理论和效用理论的原则，提供一种优化且可由人类审查的决策过程，从而显著提高 LLM 的决策性能，使准确率提高了 40%。

    Feb, 2024

  • 大型语言模型用于动态数字孪生中的可解释决策

    利用大型语言模型为动态数据驱动型数字孪生提供可解释性平台，利用领域专业知识库生成系统决策的自然语言解释。以智能农业为案例进行了研究。

    May, 2024

  • 深思熟虑：带有内部工作记忆的决策 Transformer

    本文提出了一种基于内部工作记忆模块的决策制定代理，可以通过存储、混合和检索信息来改善其在不同下游任务中的训练效率和泛化能力，并进一步证明记忆微调可以增强所提出架构的适应性。

    May, 2023

  • 自省提示：用于上下文决策的大型语言模型

    本研究利用自省式提示 (Introspective Tips) 促进了大型语言模型 (Large Language Models) 的自我优化，从学习过程中的经验、集成专家演示和跨越多种游戏等三种方面提高决策性能，却不调整 LMM 参数，结论在 TextWorld 超过 100 个游戏中都表现出优异的结果。

    May, 2023

  • 带大型语言模型线索的世界模型用于目标实现

    通过将提出的具有示意性子目标的语言模型与模型回滚相结合，我们提出了一种新的多模态的基于模型的强化学习方法，名为大语言模型梦境，用以鼓励在具有挑战性任务中发现和达成目标，从而对各种困难的、稀疏奖励的环境进行了大量实验，并显示出优于近期方法的性能提升。

    Jun, 2024

  • O3D：用于大型语言模型的离线数据驱动发现与蒸馏的顺序决策制定

    我们提出了一种离线学习框架，利用大规模的离线数据（如人类互动日志）来改善大型语言模型的在上下文学习性能。我们通过文本和代码的方法形式化定义了基于大型语言模型的策略，并引入了一种离线数据驱动的发现和精炼框架（O3D），以改善大型语言模型的决策能力。在两个交互式决策基准测试中的实证结果表明，O3D 可以通过离线发现和精炼过程显著提升大型语言模型的决策能力，并在基于文本和代码的策略下持续优于基准模型。

    Oct, 2023

  • 公共卫生中动态不休、多臂老虎机任务的决策语言模型（DLM）

    通过使用自然语言命令，提出了一种动态调整政策结果的决策语言模型 (DLM)，该模型能够适应具有挑战性的公共卫生环境中的人流量调度任务。

    Feb, 2024

  • 模拟中的 LLM 实验：用于数字孪生中的过程仿真参数化的大型语言模型多主体系统

    本文介绍了一种新颖的多智能体系统框架设计，利用大型语言模型（LLM）自动化数字孪生中的过程模拟参数化。我们提出了一个多智能体框架，包括观测、推理、决策和总结四种类型的智能体。通过启用 LLM 智能体与模拟模型之间的动态交互，该系统可以自动探索模拟的参数化，并使用启发式推理确定一组参数以控制模拟以实现目标。所提出的方法通过将 LLM 的启发式融入模拟模型，增强了模拟模型，并通过协助复杂的决策过程，增加了对用户的友好性并减轻了用户的认知负荷。通过案例研究证明了系统的有效性和功能，并在 GitHub 存储库中提供可视化演示。

    May, 2024

  • LLM4DyG：大型语言模型能否解决动态图问题？

    在本文中，我们通过提出评估大型语言模型在动态图中的时空理解能力的 LLM4DyG 基准，第一次系统地评估了 LLMs 在动态图中的时空信息理解能力，并通过广泛的实验分析了不同的数据生成器、数据统计、提示技术和 LLMs 对模型性能的影响。我们提出了一种名为 Disentangled Spatial-Temporal Thoughts (DST2) 的方法，用于增强 LLMs 在动态图中的时空理解能力。我们的主要观察是：1）LLMs 在动态图中具有初步的时空理解能力，2）随着图大小和密度的增加，动态图任务对 LLMs 的难度增加，但对时间跨度和数据生成机制不敏感，3）我们提出的 DST2 提示方法可以帮助提高 LLMs 在动态图中的时空理解能力。此外，数据和代码将在发布时开源。

    Oct, 2023