通过从预训练模型中快速恢复训练任务和广义化到新的未见任务，我们提出了 Faster and Better Data-Free Meta-Learning (FREE) 框架，以解决数据恢复速度慢和异构预训练模型的缺点，实验证据表明，在多个基准测试中，我们的方法相对于现有的技术表现出 20 倍的加速和 1.42％至 4.78％的性能提升。

May, 2024

提出一种 Bi-level Data-free Meta Knowledge Distillation (BiDf-MKD) 框架，通过 black-box APIs 进行元学习，通过边缘查询集回归技术恢复更详细的查询集，并设计任务记忆重放技术以在有限的 API 预算内促进更好的泛化。

May, 2023

DF2 是第一个专门设计用于解决模型失配误差、样本平均近似误差和梯度近似误差的分布无关的决策导向学习方法。通过在训练过程中直接学习预期的优化函数，我们采用基于注意力机制的模型架构来高效地进行数据驱动型学习。我们在合成问题、风力发电竞标问题和非凸性疫苗分配问题上评估了 DF2 的有效性。

Aug, 2023

通过选择多样的任务进行小批量处理，我们研究利用任务关联的外部知识来改善训练稳定性，进而减少训练中的噪音。

Dec, 2023

本项研究探讨了如何通过自监督的方式，自动构建和提供能在自然语言处理中进行大规模元学习的任务分布，考虑了任务的多样性、难度、类型、领域和课程，结果表明，这些因素都会有意义地改变任务分布，从而显著提高元学习模型少样本学习的准确度。

Nov, 2021

从异构源或任务的数据中提取共同特征是机器学习进展的一个重要概念。本文提出了从带有噪声的向量测量中恢复线性算子的通用设置，并引入了一种去偏差和特征白化的适应方法，其在噪声水平下，使样本复杂性与源数据大小的总和成比例地减小，从而获得与神经网络模型相当的泛化界限。

Aug, 2023

本文提出了 UnLiMiTD 方法，该方法是一种基于概率预测和基于贝叶斯推理的 meta-learning 方法，能够有效应对少量数据和多模态任务分布的不确定性，同时在 OoD 任务上也表现良好。

Oct, 2022

本文提出了一种通过任务插值来扩充任务集的元学习方法（MLTI），通过该方法可以实现更好的泛化性能，从而在多个数据集上显著优于当前最先进的策略。

Jun, 2021

Decision-Focused Learning（DFL）是一种新兴的学习范例，用于训练机器学习模型来预测不完整优化问题的缺失参数。DFL 通过集成预测和优化任务，在端到端系统中训练机器学习模型，从而更好地匹配训练和测试目标。然而，我们对这些模型在对抗性攻击下的性能知之甚少。我们采用了十种独特的 DFL 方法，并在针对预测优化问题设定的两种明确攻击下进行性能基准测试。我们的研究提出了假设，即模型的鲁棒性与其能否找到导致最佳决策且不偏离基本真实标签的预测高度相关。此外，我们深入洞察了如何针对违反此条件的模型，并展示了这些模型如何根据训练周期结束时实现的最优性而有不同的响应。

Nov, 2023

本研究提出了一种元强化学习算法的框架，该框架可以适应于测试时间任务分布变化，以提高在分布转移下的领域中的适应能力和性能。

Oct, 2022