Apr, 2023

q2d：从问题到对话，训练模型学习搜索

PDF
TL;DR该论文介绍了一种自动生成基于搜索查询的对话数据的机器学习方法，通过使用大型语言模型生成问题回答数据集，学习如何与外部搜索 API 通信，以生成具有上下文的搜索查询，从而改善对话系统的回答效果。
language modelssearch querydata generationdialog systemsmachine learning
发现论文，激发创造
  • 响应增强的半监督对话查询生成

    提出了一种半监督学习框架 SemiDQG，通过使用未标注的对话数据来改进模型性能，使用类似度选择策略选取高质量伪查询进一步训练模型，并采用 REINFORCE 算法作为精细化训练信号，实验结果表明该框架在跨领域和资源有限场景中具有显著优势。

    Dec, 2023

  • 通过查询生成实现信息对话生成中的动态知识检索

    为了实现对话系统的智能回答，文中设计了 DRKQG，该系统能够根据上下文信息，在没有提前准备知识库的情况下通过搜索引擎检索相关知识，并利用生成模块同时考虑上下文信息和检索知识生成回答，实验结果表明，该模块在自动评估和人工评估两方面取得了优异的成绩。

    Jul, 2022

  • 基于数据库的对话自然语言接口的高效部署

    研究使用对话式多轮数据的方法加速训练自然语言到查询语言的机器学习模型，旨在解决领域数据有限及集成过程繁琐耗时等问题。

    May, 2020

  • 利用搜索引擎增强的对话响应生成及廉价监督查询生产

    通过使用查询产生器从动态信息检索引擎检索知识，为聊天机器人生成响应的对话模型中，基于廉价噪声监督的训练算法用于产生查询，调整查询生成器而无需人为标注黄金查询，取得了不错的检索效果，大大提高了聊天机器人响应的质量。

    Feb, 2023

  • 运用 GPT-3 驱动教学代理系统培养儿童的好奇心提问技能

    本研究借鉴自然语言处理和大型语言模型相结合的方法，采用自然文本提示来制作课程内容，有效提高了儿童好奇心问题的生成能力，同时发现开放式训练内容更适合培养好奇心问题发现的技能。

    Nov, 2022

  • 通过提问来检测用户意图的大型语言模型新对话生成代理

    使用大型语言模型改进对话响应生成，并检测用户的隐含意图，通过提问问题与具体领域的知识库交互，获得额外知识，并显式地整合这些知识，最终提高了响应生成的性能。

    Oct, 2023

  • 基于预训练语言模型的知识驱动对话生成

    我们使用预训练的语言模型来研究基于知识的对话生成，通过知识选择模块和无监督方法来优化知识选择和响应生成，实验结果表明，我们的模型在自动评估和人类判断方面都显著优于现有方法。

    Oct, 2020

  • 利用自动回复分割从无标记文档中合成对话

    通过学习对话任务数据的分割而不是使用句子边界的分割方法，我们提出了一种强大的对话合成方法，通过该方法生成的合成数据集在机器和人员评估中表现出优越的质量，同时在 ConvQA 检索系统预训练中使用我们的填充数据，观察到 OR-QuAC 基准测试数据的显著提升。

    Jun, 2024

  • 面向源基数据生成的高效信息获取对话：以会议记录为案例

    结合大型语言模型与人类专业知识，通过将角色扮演代理和用户的对话模拟为大型语言模型生成，然后由人类专家验证并补充归属数据，以更高效可靠地生成数据，并构建了集中在会议记录的首个信息检索对话数据集 MISeD，其中模型在测试集、手动 WOZ 测试集和现有基于查询的摘要基准上的优越性能表明我们方法的效用。

    May, 2024

  • MP2D: 自动话题转移对话生成框架利用知识图谱

    虽然在话题对话系统方面取得了很大进展，但如何有效地在对话中处理话题转换仍然是一个持久的挑战。本研究提出了 Multi-Passage to Dialogue (MP2D) 框架，该框架通过自动生成自然话题转换的对话问答数据集来解决这个问题。通过利用知识图谱中实体之间的关系，MP2D 能够映射对话中的话题流程，有效地模拟人类对话的动态过程。它通过将与话题相关的段落转换为对话形式，将其转化为对话。通过定量和定性实验证明了 MP2D 在生成具有自然话题转换的对话方面的有效性。此外，本研究还引入了一个新的话题转换对话基准，TS-WikiDialog。通过利用该数据集，我们展示了即使是大型语言模型（LLMs）也难以有效处理对话中的话题转换，并展示了使用 MP2D 生成的数据集训练模型在不同话题转换对话任务中的性能提升。

    Mar, 2024