Nov, 2023

PRODIGy：基于 PROFILE 的对话生成数据集

PDF
TL;DR通过为对话代理提供个人资料表示，可以提高其一致性和连贯性，从而改善对话效果。本研究提出了一个统一的框架，将标准和更复杂的个人资料表示相结合，创建了一个新的资源，其中每个对话与所有可能的发言者资料表示（如交流方式、传记和个性）对齐。实验结果表明，基于个人资料的模型在领域内和跨领域的情况下都具有比仅基于对话训练的模型更好的泛化能力。为了考虑可能的隐私问题，所有实验都进行了两种配置：人际和人内。
dialogue agentsprofile representationgenerative language modelsgeneralisation capabilitiesprivacy concerns
发现论文，激发创造
  • PGTask: 从对话中生成个人资料的任务介绍

    研究使用最先进的方法创建 Profile Generation 任务的数据集，以使对话系统的模型获得更丰富的用户个人信息。

    Apr, 2023

  • 具有隐式用户人设检测的个性化对话生成器

    提出了一种基于用户人格检测的个性化对话生成器，该方法使用条件变分推理建立用户潜在人格模型并利用后验鉴别正则化提高训练效果，在实证研究中实现比现有技术更高的对用户人格关注和提升了对话品质的效果。

    Apr, 2022

  • 对话中我们学习：通过对话学习实现无预定义个人化对话

    个人化对话系统一直受到广泛关注，因其能够根据不同人物角色生成响应。本文提出了 In-Dialogue Learning (IDL) 框架，通过细调预训练的大型语言模型，利用对话历史来描述角色，从而完成个性化对话生成任务，而无需预先定义角色。我们在三个数据集上的实验证明，IDL 显著提升了模型性能，BLEU 和 ROUGE 分数分别增加了 200% 和 247%。此外，人工评估的结果进一步验证了我们提出方法的有效性。

    Mar, 2024

  • 面向开放域对话代理的基本信息一致性确认

    通过创建人工注释的数据集并利用 Bert 模型识别属性一致性，本文旨在提高对话代理与人类的属性一致性并进一步证明该模型有助于提高对话的一致性。

    Sep, 2020

  • MORPHEUS：从个性化对话历史中探索和利用潜在空间建模角色

    通过在对话历史中提取角色信息并构建潜在空间中的角色代码书，MORPHEUS 框架通过三阶段训练过程使模型能够泛化到不同角色，从而实现个性化对话生成，无需外部角色数据，并且可以作为大型语言模型的高效微调。

    Jul, 2024

  • 个性化对话生成与多元特征

    本研究旨在研究将个性特征应用于对话生成中以提供个性化对话的问题，并提出了一种基于关键 - 值对的嵌入式特征融合模块和两种新颖的特征感知机制，即基于对话者的关注机制和基于对话者的偏置机制，并构建了 PersonalDialog 数据集，该数据集包含来自海量讲话者的具有不同特征的大量多轮对话。实验结果表明，所提出的模型能够在不同情境下处理适当的特征。

    Jan, 2019

  • 利用 LLM 代理生成合成对话数据集

    通过目标导向的对话式代理生成线性对话样本，实现与用户的对话以获取所需的线性模型信息，并通过人工和自动评估，包括使用 GPT-4 模仿人工评估指标的评估方法，验证对话的高质量性。

    Jan, 2024

  • 针对隐式用户属性创建个性化聊天机器人方案：每人一机器人

    本文提出了一种从用户对话历史中自动学习隐式用户配置文件以构建个性化聊天机器人的方法，采用 Transformer 进行语言理解训练，并通过建立历史帖子 - 响应对的键值存储网络来建立动态的贴子感知用户配置文件。同时，采用个性化解码器融合两种解码策略，包括生成通用词汇表中的单词和从用户个性化词汇表中复制一个单词。实验结果表明，该模型较现有方法具有显著的改进。

    Aug, 2021

  • 借助大语言模型生成忠实的以人为基础的对话数据集

    通过建立 Generator-Critic 架构，使用 LLM 生成会话，借助 Synthetic-Persona-Chat 评估了高质量对话数据集对 NLP 模型的影响。

    Dec, 2023

  • 为聊天机器赋予人格 / 身份以进行连贯对话生成

    本研究使用社交媒体的一般会话数据，构建了一个包含三个模块的模型：个人信息检测器，双向 decoder 和位置检测器，有效地生成了聊天机器人的自然、多样和连贯的回复。

    Jun, 2017