May, 2022

低资源语音识别的改进元学习

PDF
TL;DR提出了一种基于元学习的新框架来改进之前的模型无关元学习（MAML）方法，该方法采用多步损失（MSL）来解决 MAML 方法的稳定性问题，其实验表明 MSL 显著提高了训练过程的稳定性和整个系统的准确性，优于各种语言的 MAML 低资源 ASR 系统的字符错误率和稳定性。
meta learninglow resource speech recognitionmamlmulti-step losstraining stability
发现论文，激发创造
  • 元学习为端到端低资源语音识别

    该论文介绍了一种基于元学习的低资源自动语音识别的方法，通过用多语言进行预训练并使用模型无关元学习算法（MAML）来快速适应目标语言，该方法名为 MetaASR，经过初步测试，发现该方法在各个目标语言中均显著优于现有的多任务预训练方法，而且开启了一种将元学习应用于更多语音相关应用的新研究方向。

    Oct, 2019

  • 低资源神经机器翻译元学习

    本文利用元学习算法 (MAML) 扩展低资源 NMT 问题，并通过多语言高资源任务进行学习来适应低资源语言，并利用全局词汇表解决不同语言的输入输出错配， 在使用 18 种欧洲语言作为源任务和 5 种不同的语言作为目标任务的情况下，相对于基于多语言、迁移学习的方法，表明所提出的方法显著优于现有方法，并仅需少量训练示例即可获得具有竞争力的 NMT 系统。

    Aug, 2018

  • 对抗性元采样用于多语言低资源语音识别

    采用对抗元采样 (AMS) 方法解决多语种 meta-learning 自适应训练的任务样本多样性和数量不平衡问题，提高低资源语音识别的性能。

    Dec, 2020

  • 如何训练你的 MAML

    本文提出了针对模型无关元学习（MAML）进行各种修改的方法，提出了 MAML++，它稳定了系统，并大大提高了 MAML 的泛化性能、收敛速度和计算开销。

    Oct, 2018

  • 探索元学习算法在低资源自然语言理解任务中的应用

    本研究探讨了基于元学习算法的模型无关元学习算法（MAML）及其变体，以解决低资源自然语言理解任务中现有方法表现不佳的问题，并在 GLUE 基准测试中验证了该方法的有效性。

    Aug, 2019

  • 多步模型无关元学习的理论收敛性

    该论文提出了一个新的理论框架，以提供关于 MAML 算法在两种实际感兴趣的目标函数（重新采样情况和有限和情况）下收敛性的保证，并表征了在非凸情况下实现多步 MAML 的计算复杂度和收敛速率，建议内部阶段步长应选择与内部阶段步数 N 成反比来保证 N 步 MAML 有保证的收敛性，从技术上讲，它们开发了处理多步 MAML 的元梯度嵌套结构的新技术。

    Feb, 2020

  • 异常语言的极小极大和 Neyman-Pearson 元学习

    为提高 MAML 方法在跨语言自然语言处理中的鲁棒性，本文提出了两个基于最小化最大风险和约束性分布分别的构思而实现的改进版本：Minimax MAML 和 Neyman-Pearson MAML。这两种标准均构成了可微分的两人博弈。研究者在 POSM 和 QA 两个自然语言处理任务中对比了它们与其他方法的效果表现。

    Jun, 2021

  • 基于模型无关元学习的多语言仇恨言论检测

    本文提出了 HateMAML 框架，通过 meta-learning 技术和 self-supervision 策略在低资源语言下进行仇恨言论检测，并且达到了比现有方案更好的性能，同时兼备了跨语言迁移和领域泛化功能。

    Mar, 2023

  • 自然语言理解金融任务的模型无关元学习

    本文研究了模型无关元学习算法（MAML）在低资源金融自然语言理解（NLU）任务中的应用，证明了该算法可使模型快速适应低资源情境并获得最佳性能。

    Mar, 2023

  • LiMAML: 通过元学习个性化深度推荐模型

    通过深度神经网络和元学习算法，该研究论文提出了一种个性化推荐系统的创新解决方案，能够根据最新的用户交互信号进行模型更新并在在线推荐系统上高效部署，从而实现高度个性化的 AI 模型的部署和对应业务指标的显著改进。

    Feb, 2024