Oct, 2023

Lemur: 自然语言和代码的协调性：用于语言代理的技术

PDF
TL;DRLemur 和 Lemur-Chat 是为满足多样化语言智能代理需求而针对自然语言和编码能力进行优化的开放访问语言模型；通过深入预训练和精细调整，这些模型实现了在多个文本和编码基准测试中的最先进性能，其自然语言和编程语言之间的协调化使 Lemur-Chat 能够显著缩小与专有模型之间的差距，为开发具备推理、规划和在环境中无缝操作能力的高级开源代理提供关键见解。
发现论文，激发创造
  • Lemur: 集成大型语言模型的自动程序验证

    通过结合 LLMs 的代码理解能力和自动推理程序，我们提出了一种通用方法论来进行自动程序验证，通过一组导出规则进行形式化描述并证明其合理性，从而实现了在一系列合成和竞争基准测试中的实际改进。

    Oct, 2023

  • ChatCoder：基于聊天的需求细化改善 LLMs 的代码生成

    通过与大型语言模型的对话，ChatCoder 能帮助人类用户精确、明确和完整地修正需求，从而提高大型语言模型的代码生成性能。

    Nov, 2023

  • 基于语言的三维人体理解与检索增强工具推理

    ChatHuman 是一个基于语言驱动的人类理解系统，通过结合和整合多种不同方法的技能，利用大型语言模型（LLM）选择和使用各种现有工具来解决 3D 人类相关问题，并通过学术出版物指导应用 3D 人类相关工具、生成上下文学习示例以处理新工具以及辨别和整合工具结果以提升对 3D 人类理解的能力。与现有模型相比，在工具选择准确性和多个 3D 人类相关任务的性能方面，ChatHuman 表现出更好的性能，是将多样方法整合为单一强大的 3D 人类推理系统的一步。

    May, 2024

  • FurChat：基于 LLMs 的具身对话智能体，结合开放与封闭领域的对话与面部表情

    利用大型语言模型开发一个具有身体感应的对话机器人，可以作为接待员产生混合的开放和闭环式对话，并具备面部表情，通过自然对话与访问者进行互动，向他们提供有关设施、研究、新闻、即将到来的活动等信息。

    Aug, 2023

  • EduChat：基于大规模语言模型的智能教育聊天机器人系统

    EduChat 是一个基于大规模语言模型（LLM）的教育领域聊天机器人系统，旨在支持个性化、公平、有爱心的智能教育，为教师、学生和家长提供支持。它通过在教育语料库上进行预训练来学习领域特定知识，并通过在设计的系统提示和指令上进行微调来刺激各种技能。目前，EduChat 作为一个开源项目在线上提供，其代码、数据和模型参数可在平台上获得。这项倡议旨在促进基于 LLMs 的智能教育的研究与应用。

    Aug, 2023

  • 多智能体通信与自然语言：功能与结构语言学之间的协同

    本文介绍一种结合多智能体通信和传统数据驱动方法的自然语言学习方法，通过在自身玩耍的环境中生成任务特定的奖励来适应或调节模型，形成任务条件化语言模型，并引入了一种基于语言模型样本重新排序的新方法，以优于其他方法地与人类进行视觉指称交流任务的通信。最后，我们提出了一种不同类型的语言漂移分类以及检测它们的措施。

    May, 2020

  • TeleChat 技术报告

    TeleChat 是一种拥有 30 亿、70 亿和 120 亿参数的大型语言模型集合，包括预训练的语言模型和根据人类偏好进行微调的聊天模型。在各种任务上，包括语言理解、数学、推理、代码生成和基于知识的问答等方面，TeleChat 表现出与其他类似大小的开源模型相当的性能。我们公开发布了 TeleChat 的 7B 和 12B 变种的微调模型检查点、代码和部分预训练数据，以支持未来对大型语言模型的研究和应用。

    Jan, 2024

  • 语音代理：多模式多智能体系统下的人际交流模拟

    提出了一种基于多模态 LLM 的多智能体系统 SpeechAgents，用于模拟人类交流，并通过多智能体调优增强了 LLM 的多智能体能力，实验结果表明 SpeechAgents 可以具有一致的内容、真实的节奏和丰富的情感，同时在高达 25 个代理人的情况下表现出优秀的可扩展性。

    Jan, 2024

  • 使用聊天机器人教授语言

    本研究旨在构建一种在线语言学习工具，通过使用对话系统作为实践对话伙伴，为学习者提供对话体验。我们的系统可以根据用户的语言熟练程度进行自适应，并且提供自动语法错误反馈来帮助用户从他们的错误中学习。根据我们的初步用户反馈，我们的系统既实用又有趣。此外，我们还将为学习技术社区提供一个大规模的关于语言学习和语法更正的对话数据集。下一步，我们将使用强化学习算法来使我们的系统更加适应用户个人信息。

    Jul, 2022

  • ChatMusician：理解和生成音乐的 LLM 方法

    我们介绍了 ChatMusician，这是一个开源的大型语言模型，基于在 ABC 符号表示和音乐作为第二语言上进行连续预训练和微调的 LLaMA2，它能够理解和生成音乐，并能够创作结构良好、完整的音乐作品，超过了 GPT-4 基准模型。

    Feb, 2024