Feb, 2024

对话机器人与流水线的结合：利用确定有限自动机增强大型语言模型

PDF
TL;DR介绍了一种新颖的框架，Definite Finite Automaton augmented large language model (DFA-LLM)，旨在增强使用大规模语言模型（LLM）的对话代理的能力。该框架通过将来自训练对话的学习得来的 Definite Finite Automaton (DFA) 嵌入到 LLM 中，从而使 LLM 能够遵循确定性的响应路径，具备解释性结构、上下文感知的对话响应检索以及与现有 LLMs 的即插即用兼容性。广泛的基准测试验证了 DFA-LLM 的有效性，表明其在对话代理领域具有潜在的价值贡献。
definite finite automatonlarge language modelconversational agentsregulated responsesemotional support
发现论文，激发创造
  • 正式 - LLM：将正式语言和自然语言整合为可控制的基于 LLM 的代理人

    该篇论文提出了一种名为 ``Formal-LLM'' 的新型框架用于基于 LLM 的代理，通过结合自然语言的表现力和形式语言的准确性，使规划过程具有控制性，从而防止代理生成无效和不成功的计划，并且通过实验验证了该框架在任务性能上取得的超过 50% 的整体性能提升，为在规划的有效性至关重要的应用场景中更广泛地利用 LLM 提供了可能性。

    Feb, 2024

  • 走向自主系统：引入大型语言模型代理的灵活模块化生产系统

    本文提出了一个将大型语言模型（LLMs）、数字孪生和工业自动化系统相结合的新型框架，以实现生产过程的智能规划和控制，强调将 LLMs 集成到工业自动化系统中以实现更敏捷、灵活和自适应的生产流程的潜力并指出未来工作的关键见解和限制。

    Apr, 2023

  • 基于大型语言模型的全双工语音对话方案

    我们提出了一个基于大型语言模型的生成对话系统，能够以全双工方式运行，并同时处理对话中的听与说任务。

    May, 2024

  • $L^*LM$: 从示例中使用自然语言预测的学习自动机

    该研究介绍了一种从专家演示和自然语言中学习确定性有限自动机（DFA）的算法，利用自然语言的表达能力显著提高了从专家演示中学习 DFAs 的数据效率，通过结合大型语言模型和转化学习算法，实现了强大的少样本学习器。

    Feb, 2024

  • 通过大型语言模型探索自主代理：一项综述

    大型语言模型（LLMs）正在改变人工智能，使得自主代理能够在不同领域执行多样化任务。这些代理具备类似人类的文本理解和生成能力，有望在从客户服务到医疗保健等各个领域引发革命。然而，它们面临着诸如多模态、人类价值取向、幻觉和评估等挑战。推动、推理、工具利用和上下文学习等技术正在被探索，以增强它们的功能。像 AgentBench、WebArena 和 ToolLLM 这样的评估平台为在复杂场景中评估这些代理提供了强大的方法。这些进展正在引领更加有韧性和能力的自主代理的发展，预计它们将成为我们数字生活中不可或缺的一部分，协助我们完成从邮件回复到疾病诊断等任务。拥有 LLMs 带头的人工智能的未来充满了希望。

    Apr, 2024

  • 接收、推理和反应：在自动驾驶车辆中根据您的指令驾驶的大型语言模型

    通过利用大型语言模型（LLMs）的语言和推理能力，本研究提出了一个新的框架来增强自动驾驶车辆决策过程。通过在不同场景中进行试验和实时个性化示范，我们展示了利用 LLMs 能够改善驾驶决策、提供个性化驾驶体验并增强自动驾驶的安全和效果。

    Oct, 2023

  • FATE-LLM：用于大型语言模型的工业级联邦学习框架

    FATE-LLM 是用于大型语言模型的工业级联合学习框架，通过联合学习促进大型语言模型的高效训练、采用参数高效微调方法、保护知识产权、通过隐私保护机制在训练和推理过程中保护数据隐私。

    Oct, 2023

  • 基于大语言模型的对话式生成自动驾驶仿真场景

    本文描述了一个支持扩展多模态交互的系统，通过使用大型语言模型 (LLMs) 将用户的英语语句映射到领域特定的代码，我们探索了 LLMs 在上下文敏感性方面捕捉演算发言者意图的程度。

    Oct, 2023

  • 大规模语言模型的强化学习问题解决

    使用大型语言模型作为强化学习代理以解决对话式强化学习问题，通过提出的提示技术，演示了如何迭代引导语言模型学习和优化特定强化学习任务的策略，并通过两个具体案例研究展示了该方法的实用性。

    Apr, 2024

  • 大型语言模型是否成为数据流水线的新接口？

    语言模型是一种广义的术语，它包含了各种类型的模型，旨在理解和生成人类的交流。大型语言模型（LLM）因其具有与人类类似的流畅和连贯性处理文本的能力而引起了人们的广泛关注，这使它们在以管道方式构建的各种数据相关任务中具有价值。LLM 在自然语言理解和生成方面的能力，结合其可伸缩性、多样性和领先性能，使其在诸如解释性人工智能（XAI）、自动化机器学习（AutoML）和知识图谱（KG）等各个人工智能领域具有创新应用的能力。此外，我们还相信这些模型能够从大规模数据中提取有价值的见解，并进行数据驱动的决策，这种做法通常被称为大数据分析（BDA）。在本立场论文中，我们对这些技术之间的协同作用提供一些讨论，该协同作用可以实现更强大和智能的人工智能解决方案，推动在整合人、计算机和知识的各种应用和领域中数据管道的改进。

    Jun, 2024