EMNLPNov, 2020

SMRT Chatbots：利用模拟多重参考训练改进非任务导向式对话

PDF
TL;DR应用模拟多参考训练方法（SMRT），使用改写工具模拟多个响应以提高对话模型的质量和语言多样性。结果表明，SMRT 对人类和自动质量评分以及语言多样性均有所改善，相较于预训练，在人工评估质量方面相当，但在自动质量和语言多样性方面领先，并且无需相关领域的对话数据。
dialog modelssimulated multiple reference trainingtransformer baselinequality scoreslexical diversity
发现论文，激发创造
  • 模拟多参考训练改善低资源机器翻译

    通过模拟多重参考训练（SMRT）来近似表示可能的翻译，从而训练机器翻译（MT）模型，以缓解低资源环境下数据稀疏问题，并在翻译为英语时实现了 1.2 到 7.0 BLEU 的提高（机器翻译评价指标）。研究还发现 SMRT 和回译相互补充。

    Apr, 2020

  • 利用释义生成快速启动对话系统

    该研究提出了一种基于改写生成的方法，可以减少创建新对话代理所需要的时间和成本，同时提高其性能，使其能够实际与真实用户进行交互。实验证明该方法提高了意图分类模型的泛化能力，有助于在组织范围内规模化部署这项技术。

    Apr, 2022

  • 非自回归机器翻译参考文献改写

    本文介绍了一种针对非自回归神经机器翻译（NAT）多模问题的解决方案：引入一种重新表述器 (rephraser) 来为 NAT 提供更好的训练目标，并通过强化学习优化该目标，从而提高 NAT 翻译质量，在主要 WMT 基准和 NAT 基线上实验表明相比原始 NAT 的翻译质量有了明显的提高，且最优实验方案的推理效率是自回归 Transformer 的 14.7 倍。

    Nov, 2022

  • 基于模型的仿真优化智能回复

    本文提出一种名为 SimSR 的智能回复方法，通过模拟潜在的用户回复，直接优化 Smart Reply 的预测结果，实现对多样化回复的学习，相比于现有方法，该方法在两个公共数据集上分别提高了 21% 和 18% 的 ROUGE 得分和自对比得分。

    May, 2023

  • 多任务端到端训练改善对话式推荐

    本文基于 T5 文本转文本的 transformer 模型，将多任务端到端模型应用于对话推荐任务，实现了推荐相关项目和生成对话的双重目标，其中多任务学习和来自 ReDIAL 数据集的探针研究得到了应用。

    May, 2023

  • BotsTalk: 自动化筛选大规模多技能对话数据集的机器源框架

    提出了一种名为 BotsTalk 的新框架，其中多个代理参加交谈以自动注释多技能对话，并展示了一个名为 BSBT 的大规模多技能对话数据集，通过广泛的实验表明，我们的数据集对于需要理解技能融合和技能基础的多技能对话系统非常有效。

    Oct, 2022

  • 如何选择聊天机器人：用于对话指标评估的大规模多系统多参考数据集

    发布 MMSMR 数据集以促进关于对话度量和评估的未来研究。在单个参考评估集基础上创建了 8 个参考对话数据集，训练了 1750 个系统，并在 Novel 数据集和 DailyDialog 数据集上评估了各个系统的性能指标和模型超参数。

    May, 2023

  • ChatGPT 替代人群准备释义以进行意图分类：更高的多样性和可比较的模型鲁棒性

    本文研究了使用 ChatGPT 替代人工工人进行意图分类的复述生成任务，通过基于已有众包研究的数据收集方法，展示了 ChatGPT 创建的复述更为多样化且能够带来更加强健的模型。

    May, 2023

  • 通过零样式改写实现多语言自动机器翻译评估

    使用序列到序列的释义器作为人类参考的评估工具，将机器翻译评估任务转化为对机器翻译输出进行评分的任务。通过将释义技术视为零射任务，将释义器训练为多语言 NMT 系统，并将其应用于质量估计任务中，以条件化源，而不是参考，发现其在各种语言对中的表现均优于 WMT 2019 质量评估任务中的所有其他度量标准。

    Apr, 2020

  • 神经翻译和文本生成的多参考训练与伪参考

    利用多个参考文献训练神经文本生成模型的方法对机器翻译和图像字幕生成任务产生了显著的改进，其中一种算法先将现有的参考文献压缩成格点再遍历来生成伪参考文献。

    Aug, 2018