Jul, 2023

寻求帮助的机器人：面向大型语言模型规划器的不确定性对齐

PDF
TL;DR该论文介绍了一种针对大型语言模型的不确定性测量和调整的框架，使用收敛性预测理论提供任务完成的统计保证，同时在复杂的多步计划设置中最小化人类干预，为机器人增加了有效性和自主性，并建议一种轻量级的不确定性建模方法，以补充和扩展基础模型的不断增长的能力。
large language modelsuncertainty alignmentconformal predictionmulti-step planningrobotics
发现论文，激发创造
  • 自省计划：引导语言能力代理改进自身的不确定性

    通过引入内省计划的概念，该论文探讨了使用无需微调的系统化方法来引导大型语言模型进行感知不确定性的规划，以此改进机器人任务执行的成功率和安全性。并且研究了结合符合预测方法的内省计划的有效性，结果显示此组合可以提供更紧密的置信区间，在减少用户澄清查询的同时保持统计成功保证。

    Feb, 2024

  • 知识的知识：使用大型语言模型探索已知 - 未知的不确定性

    本论文探讨了大型语言模型在理解自己的知识和衡量自身不确定性方面的能力，并提供了一个新的已知 - 未知问题数据集以及一个分类方法来解释不确定性的来源。通过评估 LM 在分类已知和未知问题以及在开放式问题回答中的质量方面，量化了 LM 表达答案中的不确定性的方法。

    May, 2023

  • 基于大型语言模型的不确定性分析和主动问询的交互式机器人动作规划

    通过提出交互式机器人行动规划方法，利用大型语言模型（LLM）进行分析并向人类提问以获取缺失信息，以减少生成精确机器人指令的设计成本，并通过烹饪任务的具体示例证明了方法的有效性，同时揭示了对 LLM 的机器人行动规划的挑战，如提问与问题相关性不高以及未经询问而假设关键信息，为将 LLM 应用于机器人学方面的未来研究提供了有价值的见解。

    Aug, 2023

  • 大型语言模型是否知道自己不知道的？

    本研究评估了大语言模型的自我认知能力，通过引入自主问答数据集和一种自动化方法来检测不能回答的问题，研究发现大语言模型具有一定的自我认知能力，可以通过上下文学习和指导调整进一步提高其自我认知。但是，研究还发现，这些模型与人类在识别知识限制方面存在明显差距。

    May, 2023

  • KnowAgent：基于 LLL 的智能 Agent 的知识增强规划

    通过引入显式的行动知识，KnowAgent 为大型语言模型（LLMs）的规划能力提供了增强，实现了更合理的轨迹合成，从而提高了语言代理的规划性能。

    Mar, 2024

  • 闭环 LLM 规划器的基于不确定性的故障检测评估

    通过引入一个名为 KnowLoop 的基于不确定性的 MLLMs 故障检测器支持的闭环 LLM-based planning 框架，我们试图减轻 LLM-based planning 的开放环路问题，进而提高任务的成功率。

    Jun, 2024

  • 基于大型语言模型的机器人任务规划与有向图结构表示

    该研究提出了一种将人类专业知识和 LLM 结合的任务规划方法，通过逐步分解任务并生成任务树来减少每个任务的计划量，并设计了一种策略来分离机器任务计划，从而使任务计划过程更加灵活。

    Jun, 2023

  • 部分可观察机器人任务的大型语言模型交互规划

    使用大型语言模型（LLMs）的互动规划技术，通过机器人收集环境中缺失的信息并推断底层问题的状态，从而指导机器人执行所需的动作。

    Dec, 2023

  • 黑盒大型语言模型和决策规划的高效非参数不确定性量化

    该论文关注使用大型语言模型进行决策规划，并通过不确定性估计来解决语言模型中的幻觉问题，提出了非参数化的不确定性量化方法和决策代理设计的系统化方法，为人工智能代理的开发提供了一种高效的成本有效途径。

    Feb, 2024

  • 基于基础模型的人机协同持续机器人学习

    通过使用基于大型语言模型的规划器，我们克服了当前固定技能集的限制，提出了一种用于数据和时间高效教授机器人这些技能的方法，该系统可以重复使用新习得的技能，展示了开放世界和终身学习的潜力。

    Sep, 2023