本文提出了一种新的方法，通过信息论方法来估计监督分类任务的难度和可转移性，无需模型和训练，而是通过探索训练标签统计数据作为随机变量，考虑从源任务到目标任务的两个标签分配之间的条件熵，表明此值与传输模型的损失有关，并测试其在三个大型数据集上的有效性。

Aug, 2019

研究如何在迁移学习中最小化取样成本，并建立了源数据和目标数据样本大小的最小最大速率，并展示了性能限制是通过源与目标之间的不一致性捕捉的，我们称之为转移指数。

Feb, 2020

本文提出了一种量化方法 - 最大证据对数(Logarithm of Maximum Evidence), 以预测在目标任务上表现最好的语言模型，通过与人工排名进行比较，本文发现来自定量指标的证据更加稳健，并且可以帮助识别出意想不到的最佳语言模型候选项。

Oct, 2022

本文提出了一个评估跨任务表示学习有效性的H-score度量方式，可以对在分类问题中从一个任务传递到另一个任务的表示的性能进行评估。使用实际图像数据进行的实验表明，该评价标准不仅与经验传递度量一致，而且在源模型选择和任务转移课程学习等应用中也非常有用。

Dec, 2022

本文提出HASTE（HArd Subset TransfErability）方法，通过使用较难的目标数据子集来估计源模型转移到特定目标任务的可转移性，结合内部和输出表示方法提出两种技术来识别较困难的子集，从而可与任何现有可迁移度度量一起使用以提高其可靠性，实验结果表明，HASTE修改的指标与现有的可迁移度指标一致或更佳。

Jan, 2023

本文探讨了迁移学习的可行性问题，并构建了一个数学框架，将三个步骤的迁移学习过程形式化为一个优化问题，研究发现在适当的损失函数和数据集选择下，存在迁移学习的最佳过程，这些研究为特征增强在模型性能中的影响，域适应的潜在扩展以及在图像分类中进行高效特征提取器转移的可行性提供了新的见解。

May, 2023

本文通过分析在只微调模型最后一层的情况下分类任务的性能传输，提出了一种新颖的任务转移分析方法，该方法通过改变类先验分布、标签和特征空间的方法变换源分布，并利用Wasserstein距离、标签分布的条件熵以及源分布的带权损失等因素说明了传输性，同时提出了最小化转移上限的变换源任务的优化问题，通过对最新的预训练模型进行大规模实证研究，证明了本方法在预测传输性方面的有效性。

Jul, 2023

我们提出了一种快速准确测量迁移能力的算法，通过测量类内特征方差来评估预训练模型在目标任务上的泛化能力，相比于之前的研究，我们的方法在选择前五个最佳模型上表现出色，并在17个案例中展现出更好的相关性。

Aug, 2023

我们提出了两种简单且计算高效的方法，基于线性回归模型的负正则化均方差误差来估计优化的目标模型的转移性，在准确性和效率两方面显著优于现有的最先进的回归可转移性估计器。

Dec, 2023

现已大规模和大量可用的预训练模型，因此估计模型的迁移能力变得至关重要，本文针对这个问题进行了综述，并将其分为两个领域：无源模型迁移能力估计和有源模型迁移能力估计，提供了相关的分类和指导。

Feb, 2024