Jun, 2021

BoB: 基于BERT的Persona对话模型训练（有限个性化数据）

HTML
PDF
TL;DR本文提出了一种新的BERT-over-BERT（BoB）模型，将基于角色的对话生成分解为两个子任务：响应生成和一致性理解，以此解决由于缺乏注释数据而训练坚固和一致Persona-based对话模型的挑战。自动和人工评估表明，在不同的数据限制设置下，该模型在响应质量和角色一致性方面均优于现有模型。
发现论文，激发创造
  • 基于预训练的个性化对话生成模型及面向稀疏信息处理

    本文提出了一种基于预训练的个性化对话模型，利用个人属性嵌入来丰富对话语境，结合注意力路由结构进行解码，从而生成更为连贯且人物一致的回答。

    Nov, 2019

  • 利用自然语言推理生成人物一致的对话

    利用自然语言推断技术探讨生成持续一致人格的对话，提出基于强化学习框架使用从响应-人格对得到的自然语言推断信号作为奖励来生成至关一致的对话，并通过对话者的关注机制编码器-解码器来生成基于人格的响应，使用对抗训练的自然度模块和基于自然语言推断的一致性模块来评估生成的响应的一致性，实验表明该方法优于强大的生成基线，特别是在生成响应的人格一致性方面。

    Nov, 2019

  • 生成、删除和重写：改善对话生成中角色连贯性的三阶段框架

    本文介绍了一种三阶段框架，利用生成-删除-重写机制来处理基于角色的对话生成中存在的不一致问题，并在Persona-Chat数据集上进行了人工和自动指标评估。

    Apr, 2020

  • 合作伙伴很重要！检验通过融合人设来进行检索式聊天机器人个性化响应选择的实证研究

    本文提出了四种不同的合成策略，来探讨在基于检索的聊天机器人中，采用自我或合作者角色的角色来描述个性化对话者对响应选择的影响，并将这些策略实现到三个代表模型中，这些模型分别基于 HRE、IMN 和 BERT。实证研究表明，在 Persona-Chat 数据集上，忽略了以前在对话中的合作者角色，IMN 和 BERT 模型的响应选择准确性可能会有所提高。此外，我们基于 BERT 实现的模型在上下文响应感知个性化合成策略下，在原数据和经过修订的数据上的准确性分别比以前的方法提高 2.7% 和 4.6%，在 top-1 准确性（hits@1）方面实现了新的最先进性能。

    May, 2021

  • 改进角色感知对话数据集的双重任务框架

    本文介绍了一种简单而有效的数据中心方法，用于改善个性化对话代理。通过利用针对两个任务的原始 -对偶结构（预测对话响应和个人资料之间的联系），我们增强了相关人物角色，以改进对话数据集/代理，并修复了基准数据集的注释问题，其巨大地增加了模型的精度，体现在 Persona-Chat 上的实验中，我们的方法在准确性上比预训练 LM 高出 11.7 个百分点。

    Feb, 2022

  • 具有隐式用户人设检测的个性化对话生成器

    提出了一种基于用户人格检测的个性化对话生成器，该方法使用条件变分推理建立用户潜在人格模型并利用后验鉴别正则化提高训练效果，在实证研究中实现比现有技术更高的对用户人格关注和提升了对话品质的效果。

    Apr, 2022

  • 基于角色的对话生成模型无关数据操作方法

    为了构建智能对话代理，针对当前有限的基于人物特征的对话数据不足以很好地训练对话生成模型的问题，提出了一种数据处理方法，该方法适用于任何基于人物特征的对话生成模型以提高其性能，并通过实验表明了其优越性。

    Apr, 2022

  • 通过角色扩展来提高对话中的人格一致性

    该论文提出了一种新的检索到预测范例来解决个性化聊天机器人中OOP问题，并通过采用实际人物进行后验转换来进一步缓解训练和推理之间的差距。并通过IT-ConvAI2和ConvAI2的广泛实验表明，我们提出的模型在自动指标和人类评估方面都取得了可观的改进。

    Aug, 2022

  • 通过无序表示正则化实现强健的个性化对话生成

    提出一个模型无关的框架 ORder Insensitive Generation (ORIG)，解决了拼接个性化文本和对话历史输入顺序对响应生成的影响，从而提高了生成的响应一致性和效果。在 Persona-Chat 数据集上，实验表明我们方法的有效性和优越性。

    May, 2023

  • 利用自然语言推断优化新领域内对话中的个人特征提取

    我们介绍了一种自然语言推理方法，用于事后将训练好的角色提取模型适应于新的场景，与现有的角色提取模型相比，我们的方法可以提供更高质量的角色提取结果，并需要较少的人工标注。

    Jan, 2024