Jun, 2023

对话系统中技能路由尾部流量鲁棒性的数据增强

PDF
TL;DR研究在大规模对话系统中使用异构技能路由数据的扩充与针对长尾数据的鲁棒操作进行训练的方法，采用编码器 - 解码器生成框架来扰动原始数据字段并创建合成训练数据，通过实验结果展示了该方法的有效性。
conversational systemsskill-routinglong-tail learningaugmentationencoder-decoder generative frameworks
发现论文，激发创造
  • 大规模对话 AI 系统中可扩展和鲁棒的自学习技能路由

    本文提出了一种可扩展的自学习方法，以探索技能路由替代方案，无需引起用户体验中断的突然更改，并通过经常的模型更新逐步改善路由，通过离线和在线 A / B 实验在商业大规模对话系统中演示了所提出方法的实际效果。

    Apr, 2022

  • AMEND: 长尾轨迹预测的专家混合框架

    通过使用专门的专家组合和路由器网络，本研究提出了一种模块化、无模型依赖的轨迹预测框架，不仅在常见情景下取得了最新的性能，而且在长尾场景下显著提高了预测准确性。

    Feb, 2024

  • 使用切片知识的对话系统应对长尾查询

    本文探讨了基于切片学习的方法来提高基础对话路由系统的性能，通过定义一组标签函数来生成针对尾部意图的弱监督数据，并将基线模型延伸至切片感知的体系结构，以监视和提高对选定尾部意图的模型性能。应用于商业对话 AI 系统中的非身份识别实时数据，实验结果显示，切片感知模型有助于提高尾部意图的模型性能同时保持整体性能。

    Apr, 2021

  • 端到端任务导向对话的有效数据增强方法

    该研究通过四种自动方法在单词和句子级别上增强数据，提高目标导向对话模型的数据效果，并在两个数据集上进行实验，结果表明四种数据扩充方法在 Success F1 score 方面均能显著提高。进一步分析确认，增加用户话语的多样性可以使端到端模型学习特征更为稳健。

    Dec, 2019

  • 长尾数据的特征空间增强

    本文提出了一种新方法，通过在特征空间中使用来自具有丰富样本的类别所学习的特征来增强特征空间中的欠表示类别，从而解决长尾分布问题。通过使用类别激活映射，将每个类别的特征分解为类别通用和类别特定部分，并将欠表示类别的类别特定特征与混淆类别的类别通用特征融合，实时生成新样本。结果表明，在 iNaturalist、ImageNet-LT、Places-LT 以及 CIFAR 的长尾版本等数据集上，本文所提出的方法展现了最先进的表现水平。

    Aug, 2020

  • 利用生成式语言模型进行神经机器翻译的数据增强

    通过利用大规模语言模型如 ChatGPT，我们探索了基于提示的数据增强方法，用于产生合成的平行语料库，比较了三种不同提示的方法，并使用两个评估指标来衡量所生成的合成数据的多样性。这种方法无需额外的模型训练成本，与后向翻译等其他增强方法相比，提高了未增强基线的 0.68 BLEU 分数。

    Jul, 2023

  • 训练对话模型以更好地处理语音识别错误的数据增强

    本文探讨了通过数据增强的方法，将 ASR 的噪声注入到对话模型的训练数据中，以提高虚拟助手的稳定性。

    Jun, 2020

  • 面向任务导向对话系统的语境数据增强

    我们开发了一种新型的对话扩充模型，通过完整的对话上下文生成用户的回合，并通过语言模型的新提示设计和输出重新排序，所生成对话可直接用于训练下游对话系统，在常见的基准数据集 MultiWoZ 和 SGD 上，展示了我们的对话扩充模型生成高质量对话并使对话成功率较基准线提高多达 8%。

    Oct, 2023

  • 路由多样分布感知专家实现长尾识别

    本文提出了一种新型的长尾分类器 RIDE，通过多个专家、分布感知多样性损失以及动态专家路由模块来减小模型方差、缩小模型偏差与尾部的差距，相较于现有的方法，在 CIFAR100-LT、ImageNet-LT 和 iNaturalist 2018 基准测试上性能提高了 5％到 7％，并可应用于各种主干网络和长尾算法，具有较高的普适性和一致性性能。

    Oct, 2020

  • 对话人工智能的数据增强

    对话系统中的数据扩充方法提供了关键的方法来解决数据稀缺问题，并探讨了对话系统中的生成、评估等任务中的挑战与未来方向。

    Sep, 2023