May, 2023

自动化的长尾场景建模系统

PDF
TL;DR本文介绍了一个名为 ALT 的自动化系统，旨在解决长尾场景建模的问题，此问题在各种应用中经常遇到，但一直缺乏足够的关注。系统采用多种自动机器学习相关技术，包括元学习哲学、基于预算限制的神经架构搜索方法等，同时对系统的各模块进行了优化，为其提供更高的可行性和效率。实验结果表明，系统对于预算限制下的长尾场景建模问题非常有效。
long tail scenario modelingbudget limitationautomatic systemmachine learningneural architecture search
发现论文，激发创造
  • ALT-MAS: 一种用于机器学习算法主动测试的数据高效框架

    本论文介绍了一种基于贝叶斯神经网络的框架，可通过只使用少量标记测试数据有效地测试机器学习模型的正确性，该框架利用数据扩充方法训练 BNN 以实现高精度，同时采用理论信息为基础的采样策略来采样数据点以实现准确的度量估计，并通过实验表明我们的方法比现有基准显着地提高了指标估计的准确性。

    Apr, 2021

  • 构建端到端多语言自动歌词转录模型

    基于可用数据集，本文旨在创建一个能够进行多语言自动歌词转录的系统，并通过扩展目标词汇集合将已被证明在英语自动歌词转录中有效的技术应用于多语言场景。通过语言分析结合语言分类性能，我们的研究发现多语言模型的性能连续优于仅针对语言子集进行训练的单语言模型，并且将语言信息纳入模型中显著提高性能。

    Jun, 2024

  • 抽象文本摘要的主动学习

    本文提出了第一个基于多样性原则的主动学习查询策略来缓解抽象文本摘要中昂贵的注释成本，并分析了自学习的效果。该策略可以帮助提高 ROUGE 和一致性分数。

    Jan, 2023

  • 大容量元排序系统的自动机器学习

    我们提出了一种基于采样的 AutoML 方法，主要关注神经结构搜索和超参数优化，用于解决在构建大规模容量模型时的元规模生产中的挑战。我们的方法通过使用轻量级基于预测器的搜索器和强化学习来探索广泛的搜索空间，显著减少了模型评估的数量，在 CTR 和 CVR 应用的大容量建模实验中表现出杰出的投资回报率（ROI），相对于人工调优的基准，通过从精选的搜索空间中平均抽样一百个模型，达到高达 0.09% 的归一化熵（NE）损失减少或 25% 的每秒查询量（QPS）增加。我们的 AutoML 方法已经在实际应用中取得了成效，在 Instagram CTR 模型的大规模在线 A/B 测试中达到了高达 - 0.36% 的 NE 增益（相比现有的生产基准），并显示出统计上的显著改进。这些生产结果证明了 AutoML 的功效，并加速了它在 Meta 排名系统中的采用。

    Nov, 2023

  • 寻找长尾：通过逻辑规则引导搜索系统生成长尾知识

    大型语言模型，长尾分布，逻辑诱导知识搜索框架，数据集，蕴涵分类。

    Nov, 2023

  • 长尾知识的自动问答生成

    通过预训练大型语言模型解决普适领域问答中的常见知识和罕见长尾知识学习难题，我们提出了一种自动生成专门用于长尾知识的问答数据集的自动方法，并展示了相关的研究挑战。通过预训练语言模型，在我们新生成的长尾问答数据集上进行了详尽实验，比较了其使用维基百科和维基数据知识图等外部资源的性能。

    Mar, 2024

  • 自适应调整：克服多语言语音识别中的长尾问题

    本文提出了一种基于 Transformer 的多任务学习框架 Adapt-and-Adjust (A2)，通过利用预先训练好的多语种语言模型 (mBERT) 来提高低资源语言的性能、提出有着最小额外参数的语言特定和语言不可知适应器，以及在训练期间通过强制类先验或调整 softmax 输出的逻辑回归来克服类失衡。在 CommonVoice 数据集上的广泛实验表明，A2 明显优于传统方法。

    Dec, 2020

  • 开放世界的长尾问题回答

    本文定义了 OLTQA 模型，它通过在预训练语言模型中挖掘知识和引入 retrieve-then-rerank 框架来支持各种 QA 任务，并提出了适应性的相互知识蒸馏方法联合训练框架和 QA 模型，在 43 个现有 QA 数据集上更好地执行。

    May, 2023

  • 适应长尾：迁移学习研究在语言理解任务上的元分析

    对自然语言理解中基于转移学习的长尾现象进行了定量的元分析研究，较全面地探讨了转移学习方法在改善此类现象上的可行性问题和方法论实现问题，并在基于临床叙述的案例研究中比较了多种适应性方法的性能表现。

    Nov, 2021

  • SALTED: 一种适用于长尾数据的翻译错误检测框架

    SALTED 是一种基于规格的机器翻译行为测试框架，在模型开发过程中提供细粒度的错误视图，能够识别机器翻译系统中的显著长尾错误，并生成元测量测试数据以获取更多的错误。

    May, 2022