本研究提出使用可计算的传递性度量来预测目标数据集上表现最佳的模型组，从包括 17 个来源数据集、两种不同架构和两种预训练方案在内的大规模源模型池中自动选择模型，在语义分割任务中通过与两个基准模型的比较，实现平均交并比相对提高 6.0% 和 2.5%。

Nov, 2021

现已大规模和大量可用的预训练模型，因此估计模型的迁移能力变得至关重要，本文针对这个问题进行了综述，并将其分为两个领域：无源模型迁移能力估计和有源模型迁移能力估计，提供了相关的分类和指导。

Feb, 2024

我们在这篇论文中针对医学图像分割中应用迁移学习时的不足，提出了一种新的迁移能力估计方法，该方法考虑了类一致性和特征多样性，通过大量实验证明，在医学图像分割中我们的方法超过了所有现有的迁移能力估计算法。

Jul, 2023

本研究提出了一个基于评分的评估框架，用于估计预训练语音模型（PSMs）对于微调目标任务的可转移性，通过生成排名分数进行候选 PSM 的评分，结果表明该框架计算出的转移得分与微调结果具有很高的相关性和低的 p-value，且占用更少的计算时间和资源，是调整语音基础模型的省资源高效方法。

Jun, 2023

通过模型迁移技术，使用支撑向量机算法并基于模型相似性，自动确定可用的多个数据源，以提高序列标注任务的性能，可以提高高达 24 个 F1 分数点。

Apr, 2021

基于深度学习的预训练模型，挑选最佳模型在不断增多的选择中成为一项挑战。本论文提出了稳健的基准指南用于评估不同的迁移性评估者，并对多个评估者进行有效的结合，结果显示其预测结果的一致性改善。通过全面评估 13 个评估者在 11 个数据集上的表现，包括广义、精细化和医学图像数据集，我们发现只有少数评估者可以与 ImageNet 上的简单原始指标的预测性能匹配，而所有的预测者在医学数据集上都表现不佳。我们的研究结果凸显了在可靠地预测迁移性方面结合不同信息源的潜力。

May, 2024

本文提出了一种基于先验知识和可转移性的框架来选择最好的源任务，在收集到的多个脑图像分割任务中进行选择，以提高给定目标任务的转移学习性能。在脑物质、脑肿瘤和白质高信号异常分割数据集上进行的实验表明，从相同模态下的不同任务转移通常比从不同模态下的同一任务转移更成功。此外，在相同模态下，从具有与目标任务更强的 RoI 形状相似性的源任务转移可以显着提高最终的转移性能，并且可以使用标签空间中的结构相似度指数来捕获这种相似性。

Jan, 2023

我们提出了两种简单且计算高效的方法，基于线性回归模型的负正则化均方差误差来估计优化的目标模型的转移性，在准确性和效率两方面显著优于现有的最先进的回归可转移性估计器。

Dec, 2023

通过大规模实验研究，聚合不同实验结果并提出 LogME 转移度量法，发现在语义分割场景中选择良好的源数据集、在图像分类场景中选择良好的源体系结构以及确定哪个目标任务最受益于给定的源模型的最佳转移度量法是 LogME、NLEEP 和 GBC，但没有一种单一的转移度量法能够在所有场景中表现最佳。

Apr, 2022

本文提出了一个基于能量的可转移性评估度量 (ETran)，用于解决目标检测和图像分类中预训练模型的排名问题。ETran 通过能量得分、分类得分和回归得分来判断目标数据集对预训练模型是否为带内（IND）或带外（OOD）数据，并在分类、回归和目标检测任务上都适用，是首个提出目标检测任务的可转移性评估的研究。在四个基准测试和两个任务上的广泛实验证明，ETran 在目标检测和分类基准测试上的平均性能分别比先前的方法提高了 21% 和 12%，并在转移性评估方面达到了最新的成果。

Aug, 2023