Dec, 2023

借助大语言模型生成忠实的以人为基础的对话数据集

PDF
TL;DR通过建立 Generator-Critic 架构，使用 LLM 生成会话，借助 Synthetic-Persona-Chat 评估了高质量对话数据集对 NLP 模型的影响。
conversational datasetpersonasnlp modelsgenerator-critic architecturesynthetic-persona-chat
发现论文，激发创造
  • PersonalityChat: 基于事实和特征的个性化对话建模的会话提炼

    本文利用大型语言模型（LLM）通过个性化对话生成，基于个人特点和人格特质创建了一个合成对话数据集，从而证明了个性化对话模型和与 PersonaChat 相比的表现优势。

    Jan, 2024

  • 大规模多参与者生成对话建模

    本文提出了一种新的对话代理模型 ——Generative Conversation Control，它能够控制对话代理的个性，并通过控制该模型上一次与目标演员的对话，实现对话代理个性的表达，该模型在 Reddit 评论数据上进行了验证和评估，其效果得到了显著提高。

    May, 2020

  • 使用 10 亿个虚拟角色进行合成数据创建的扩展

    我们提出了一种新颖的以人设为驱动的数据合成方法，利用大型语言模型中的各种观点来创建多样化的合成数据。为了在规模上充分利用这种方法，我们引入了 Persona Hub—— 一个从 Web 数据自动筛选得到的 10 亿多样化的人设集合。这 10 亿个人设（相当于世界总人口的 13%），作为传播世界知识的分布式载体，可以利用 LLM 中所囊括的几乎每个观点，从而促进在各种场景中大规模创建多样化的合成数据。通过展示 Persona Hub 在合成高质量的数学和逻辑推理问题，指令（即用户提示），知识丰富的文本，游戏 NPC 和工具（函数）的使用案例，我们证明了以人设为驱动的数据合成是多功能、可扩展、灵活且易于使用的，有潜力推动合成数据创建和实际应用中的范式转变，可能对 LLM 的研究和发展产生深远影响。

    Jun, 2024

  • 利用自然语言推断优化新领域内对话中的个人特征提取

    我们介绍了一种自然语言推理方法，用于事后将训练好的角色提取模型适应于新的场景，与现有的角色提取模型相比，我们的方法可以提供更高质量的角色提取结果，并需要较少的人工标注。

    Jan, 2024

  • 具有隐式用户人设检测的个性化对话生成器

    提出了一种基于用户人格检测的个性化对话生成器，该方法使用条件变分推理建立用户潜在人格模型并利用后验鉴别正则化提高训练效果，在实证研究中实现比现有技术更高的对用户人格关注和提升了对话品质的效果。

    Apr, 2022

  • 通过角色扩展来提高对话中的人格一致性

    该论文提出了一种新的检索到预测范例来解决个性化聊天机器人中 OOP 问题，并通过采用实际人物进行后验转换来进一步缓解训练和推理之间的差距。并通过 IT-ConvAI2 和 ConvAI2 的广泛实验表明，我们提出的模型在自动指标和人类评估方面都取得了可观的改进。

    Aug, 2022

  • 训练数百万个个性化对话代理

    本文介绍了一个包含 500 万个人物角色和 7 亿个依据人物角色的对话的新数据集，研究表明，使用此数据集训练对话系统，尤其是当基于文本人物角色时，可以提高其表现，并且在 Zhang 等人（2018）的数据上进行微调可以实现最新的成果。

    Sep, 2018

  • CloChat：大型语言模型中的人物角色定制、交互与体验研究

    大语言模型为生成会话代理带来了重大进展，使得在各种话题上实现无缝、情境相关的对话成为可能。然而，现有的以语言模型为驱动的对话代理拥有固定的个性和功能，限制了它们适应个人用户需求的能力。通过创建具有特定专长或特点的个性化代理人物，可以解决这个问题。尽管如此，我们对人们如何定制和与代理人物互动缺乏了解。在这项研究中，我们调查了用户如何定制代理人物以及其对互动质量、多样性和动力的影响。为此，我们开发了 CloChat，这是一个支持在大语言模型中轻松准确地定制代理人物的接口。我们进行了一项研究，比较了参与者如何与 CloChat 和 ChatGPT 互动。结果表明，参与者与定制代理人物建立了情感纽带，进行了更加动态的对话，并表现出对维持互动的兴趣。这些发现为未来使用大语言模型的对话代理系统的设计提供了启示。

    Feb, 2024

  • 针对对话推荐系统的合成数据集评估

    本研究提出对生成模型产生的数据集进行多方面评估的框架，探讨了各种评估方法的优缺点

    Dec, 2022

  • SimsChat：一个可定制的角色扮演代理

    大型语言模型（LLMs）能够理解人类指令并生成高质量的文本，使它们能够模拟人类行为并超越简单的复制。本研究介绍了可定制的对话代理框架，利用 LLMs 模拟真实世界中可以根据用户偏好自由定制的角色。提出了 SimsConv 数据集和 SimsChat 对话代理，模拟不同情景下角色的生活经历和特定情感的专题交互。实验证明该框架取得了令人满意的性能，并为未来构建更好的人类模拟提供了有益的指导。

    Jun, 2024