Jun, 2024

走向利用大型语言模型实现对会话基础的理解

PDF
TL;DR这篇实验研究分析了信息寻求对话中大型语言模型在分类明示或隐含对话转换以及预测对接知识元素方面的能力，并揭示了大型语言模型在这两个任务中遇到的挑战，讨论了通过流程架构和知识库改进大型语言模型的对话接地理解的研究工作，在对话中处理对接知识的复杂性方面，旨在开发更加有效的对话系统。
发现论文，激发创造
  • 大型语言模型是假定的语义基础还是猜测？

    现有的大型语言模型在构建共性时，假设存在共同基础，而无需使用对话行为，因此需要进一步研究人机交互中的共性问题。

    Nov, 2023

  • 基于知识的文本生成中的对话型大型语言模型的比较分析

    通过对四个不同大小的大型语言模型以及不同提示技术的比较和基准实验分析，我们发现对于从语义三元组生成自然语言文本，少量示范、后处理和高效微调技术可以显著提高大型语言模型的能力，尤其对于表现出低零样本性能的较小模型。

    Feb, 2024

  • 对话基础：基础行为和基础单元的注释与分析

    此研究提供了通过使用对话中的对接行为和对接单元进行标注的两个对话语料库及其对接程度的度量，以测试当前的语言模型在对话的对接行为分类中的性能，并旨在进一步研究使与机器的对话更易理解和更可靠的资源。

    Mar, 2024

  • 使用进一步屏蔽语言建模在模拟环境中解决对话引导接地任务

    本研究采用语言建模方法，在 Minecraft 数据集的协作建筑任务中进行多模态任务理解和任务导向对话理解任务，以提高 AI 系统的语感，实现更好的人机互动。实验结果表明，我们的方法具有更大的优势和应用潜力。

    Jun, 2023

  • 连续和部分可观察背景下的共同理解自然语言语料库

    本研究提出了一项最小化的对话任务以测试和分析对话系统在复杂场景下共同理解能力，并收集了 6,760 个对话的数据集，在此基础上，我们对共同理解的重要现象进行了分析，并对利用神经模型识别共同话语的常见方法进行了评估和分析，旨在为对话系统的训练、评估和分析提供基础测试平台。

    Jul, 2019

  • 大型语言模型真正地进行了多好的接地？

    大型语言模型的可靠性和控制性方面的关键问题是如何通过知识增强模型进行接地，该研究提出了一种严格的接地定义，并引入新的数据集和接地度量标准来评估该定义，通过实验对 13 种不同大小和训练方法的大型语言模型进行研究，以提供改进接地能力的见解。

    Nov, 2023

  • 从大型预训练模型中引导知识，以实现无监督的知识驱动对话

    本文探究了大规模预训练在知识引导对话中的应用。通过各种方法获取大型模型的知识，利用后验重加权和嘈杂训练策略进一步挖掘其价值，并在两个基准数据上进行了实验，结果表明其优于现有的最新方法。

    Nov, 2022

  • 基于语境的对话生成

    本研究探讨了如何利用预训练语言模型生成会话摘要，并通过将生成的会话与真实数据集相结合来提高自动生成的会话总结的准确性。

    Jun, 2021

  • 评估大型语言模型用于知识图谱上的语义解析对话问答

    评估了没有在此任务上进行明确预训练的大型语言模型的性能，并通过一系列实验在广泛的基准数据集上比较了具有不同提示技术和不同大小的模型，并确定了生成输出中的常见问题类型。结果表明，大型语言模型能够从对话中生成图查询，并通过少样本提示和微调技术实现显著提升，特别是对于展现较低零样本性能的较小模型。

    Jan, 2024

  • 探寻咨询对话：领域知识与大型语言模型

    提出了一个系统的方法，用于检验领域知识和大型语言模型在代表危机辅导员与求助者之间的对话时的表现，结果表明领域知识和语言模型生成的特征能够更好地描述咨询对话。

    Feb, 2024