本文提出了一种新颖的元学习框架，该框架可以在推理过程中通过支持集合利用额外的新作者数据并通过单个梯度步更新输出作者自适应模型，这个模型可以在最先进的 HTR 模型之上轻松实现，并且可以在极少的新风格数据下实现平均 5-7% 的性能提升。

Apr, 2021

手写识别中，深度学习取得了显著成就。然而，神经网络在处理数据分布转变时存在问题。本文讨论如何使手写识别模型能够自适应不同风格的书写，通过使用少量新人笔迹的例子进行适应。通过两种基本模型以及模型无关元学习和作家代码两种方法，实验结果表明 MetaHTR 在适应性上优于基准模型，提高了 1.4 到 2.0 的词错误率，并且深层模型适应性好于浅层模型。然而，MetaHTR 在更大模型或句子级别的手写识别中的计算和内存需求可能变得不切实际，而基于学习特征或 Hinge 统计特征的作家代码并未提高识别性能。

Jul, 2023

本文提出随机加权方法（包括随机损失权重和随机梯度权重），并进行了收敛性分析和实证评估，结果表明随机加权方法具有可比拟的性能和更好的泛化能力，是多任务学习的重要基线方法之一。

Nov, 2021

提出一种使用 MW 重新加权示例的神经网络优化方法，该方法在标签存在噪声的情况下稳健且可提高准确性，同时不会影响其对抗鲁棒性。

Feb, 2021

研究神经机器翻译中的自适应集成加权，解决在不牺牲原始域性能的情况下提高新领域性能，通过两个西班牙语 - 英语和三个英语 - 德语任务的逐步适应比较，提出自适应 NMT 集成解码的新方案，采用源信息扩展贝叶斯插值，并在没有域标签的情况下在测试领域中展现了较强的改进。

Jun, 2019

提出了一种能够自动发现并学习任务特定和通用可重用模块的元学习方法，以实现针对低数据任务的长时间自适应模型，适用于少样本 TTS 等通常存在少量数据和长时间自适应问题的领域，并在实验证明其表现优于现有元学习方法，包括 MAML，iMAML 和 Reptile。

Sep, 2019

使用启发式元算法优化预训练权重可改善机器学习分类任务的结果。

Dec, 2022

测试时间自适应是将预训练的源模型无监督地适应到每个测试数据批次（无需大量测试数据，无法访问源数据）的过程，本研究提出了首个完全无监督的多源测试时间自适应框架（MeTA），它通过优化组合权重适应于测试数据分布，并只更新与目标数据最相关的源模型参数，避免 “遗忘” 源模型参数的问题。多个源模型的组合至少能与最佳源模型（具备先见之明）一样好，并且在测试数据分布随时间变化时性能不会下降（遗忘容忍性）。

Jan, 2024

该研究提出了一种基于元学习和梯度下降的新算法，来对训练样本进行权重分配，从而达到解决深度神经网络在训练集偏差和标签噪声方面的过度拟合问题，而不需要额外的超参数调整，并在少量有干净核准数据的情况下，实现了在类别不平衡和标签污染问题上的出色性能。

Mar, 2018

本文提出了一种基于通用加权框架的新型多项式损失函数，该框架适用于异构特征的跨模态匹配，并成功应用于两个图像 - 文本匹配基准和两个视频 - 文本匹配基准。

Oct, 2020