Oct, 2023

DUMA：具有快速和慢速思维的双脑对话代理

PDF
TL;DR基于人类认知的双过程理论，我们引入了 DUMA，一种新的对话代理框架，通过利用两个生成型大型语言模型（LLM）实现了一种双思维机制。快思维模型作为主要接口用于外部交互和初始响应生成，根据完整响应的复杂性评估是否需要使用慢思维模型。在被调用时，慢思维模型接管对话，进行详细的规划、推理和工具利用，提供经过深入分析的响应。这种双思维配置允许根据情况在直觉响应和深思熟虑的问题解决过程之间实现无缝切换。我们构建了一个用于处理房地产行业在线咨询的对话代理，并实验证明我们的方法在平衡效果和效率方面有显著改进，与基线相比。
发现论文，激发创造
  • DUMA: 使用转置思维的阅读理解

    本文提出一种新的多选机器阅读理解模型 (DUMA)，基于人类转位思维解决多选机器阅读理解问题，通过分别考虑语段和问题的焦点来实现匹配，提高了模型的性能，在 DREAM 和 RACE 两个基准多选 MRC 任务中显示其强大状态 - of-the-art 的性能。

    Jan, 2020

  • DynaThink：快还是慢？一个用于大型语言模型的动态决策框架

    通过引入动态决策框架，将大型语言模型 (Large language models, LLMs) 自主选择快速和缓慢推理方法，以优化效率和有效性，实验结果表明 DynaThink 相较基线方法在五个常见推理基准上更优越。

    Jul, 2024

  • MindDial：基于心理理论建模的信念动态追踪技术，用于实境神经对话生成

    MindDial 是一种新的对话框架，可以生成特定语境下的自由形式响应来协商共同点。

    Jun, 2023

  • 思前想后：一个类似人类的两阶段对话代理，用于情感响应生成

    本文提出了一种基于神经网络的两阶段对话模型，通过从语义和情感角度对话生成，不需要大量情感标注数据。实验表明，该模型在情感生成方面优于其他比较模型，并在语义性能上保持一致性。

    Jan, 2023

  • 模仿就是全部吗？双阶段训练下的广义决策制定

    DualMind 使用新颖的 “双阶段” 训练策略来解决现有方法所提出的挑战，可以处理跨领域，场景和具体体现的任务，并在 MetaWorld 和 Habitat 上进行了广泛的评估和实验，其表现优于其他广义智能体，MetaWorld 上成功率可达 90% 以上的 30 个任务。

    Jul, 2023

  • DAM: 在视觉对话中生成详细且不重复回复的思考、放弃和记忆网络

    本文提出了一种新的生成解码结构，其中单词的生成被分解成一系列基于注意力的信息选择步骤。利用 Deliberation、Abandon 和 Memory 模块来进行适应性选择，结合了编码器捕获的响应级语义和为生成每个单词专门选择的单词级语义。该结构在可维持语义准确性的同时，生成的响应更加详细和非重复，并且相对于编码器是灵活的。将 Deliberation、Abandon 和 Memory 模块应用到三个典型的编码器，并在 VisDial v1.0 数据集上验证了性能，实验结果表明，所提出的模型取得了高质量响应的新的最优性能。

    Jul, 2020

  • 从静态到动态：大型语言模型的持续学习框架

    DynaMind 是一种新颖的连续学习框架，旨在解决大语言模型（LLMs）的训练困难、知识融入问题，并提高输出准确性。通过引入记忆机制和模块化操作符，DynaMind 能够有效克服这些挑战。

    Oct, 2023

  • 快慢思维的语言条件下的机器人操作

    通过模仿人类认知结构，我们引入了一种名为 RFST 的框架，该框架利用语言指令对任务进行分类并基于指令类型做出决策，包含指令鉴别器和一个与策略网络相匹配的精调视觉语言模型，可以识别用户意图或执行推理任务，我们的实验结果验证了我们的方法在需要意图识别和推理的复杂任务中的出色表现。

    Jan, 2024

  • 深思熟虑：通过内心独白培养大型语言模型的沟通技巧

    通过设计和添加内心独白，通过提示工程和上下文学习的方式，使大型语言模型（LLMs）更具人类形象和积极主动的对话能力，并构建评估模型对话生成能力的综合性基准 CSkills，并实验证明了所提出的 CSIM 策略在自动评估和人工评估上优于基准模型。

    Nov, 2023

  • 通过相互人设感知实现的对话生成

    本文提出了基于 P^2 框架的机器人 P^2 Bot，该框架旨在显式地建立对话者间的理解模型。实验结果表明该框架在大型公共数据集 Persona-Chat 上取得了显著效果提升。

    Apr, 2020