本文探讨了用自然图像数据集（ImageNet）通过标准大型模型和预训练权重进行迁移学习在深度学习医学成像应用中的方法。然而，此方法在自然图像分类和目标医学任务之间存在根本差异，并且人们对迁移效果的了解甚少。该研究表明，在两项大规模医学成像任务的性能评估中，迁移学习对性能的提升有限，而简单轻量级模型可以与ImageNet架构相当。此外，还探讨了迁移的权重尺度的独立特性，并阐述了对更高效的模型探索的意义。

Feb, 2019

本研究对新近的使用ImageNet数据集进行卷积神经网络预训练之后在医学图像分析方面应用的文章进行了综述，总结了数据处理、方法选择和结果评估等方面的主要趋势，发现存在一些关键的研究缺口。

Apr, 2020

通过研究Kolesnikov等人介绍的大规模预训练网络在胸部放射学、乳腺X线检查和皮肤科中的转移表现以及其在医学领域中的重要特性，我们发现，将自然图像转移到医学图像中是非常有效的，但只有在足够大的规模下才能实现。

Jan, 2021

本文评估了使用三种 Self-Supervised Pretraining 技术 (SimCLR、SwAV 和 DINO) 预训练的特征在医疗分类任务中的转移能力，并证明相对于监督预训练，自监督预训练模型产生了更丰富的嵌入，利于下游任务的线性评估和模型微调。此外，作者介绍了 Dynamic Visual Meta-Embedding (DVME) 作为一种端到端的迁移学习方法，并证明与单一预训练模型相比，使用 DVME 能显著提高所选任务的性能，并且可以推广到任何预训练模型的组合。

Aug, 2021

本文探讨了在医学图像分割中监督学习与自监督学习的预训练方法，发现在自监督学习方法中，使用自然图像和目标领域特定图像进行预训练可以实现最快和最稳定的收敛，在低数据场景下，将图像分类网络预训练在ImageNet上可以获得最佳精度。

Sep, 2022

本文提出了可扩展和可转移的U-Net (STU-Net)模型, 参数从1400万到14亿, 并在大规模的医学分割数据集上表现良好, 并评估其在14个下游数据集上的可转移性。

Apr, 2023

研究表明，在医疗和自然图像领域中使用自监督的数据预训练可以比在 ImageNet 上表现更好，其可取得可比或更好的效果并展示了基于领域边界的广义间隙和特定领域中学到的特征。

Jun, 2023

我们在这篇论文中针对医学图像分割中应用迁移学习时的不足，提出了一种新的迁移能力估计方法，该方法考虑了类一致性和特征多样性，通过大量实验证明，在医学图像分割中我们的方法超过了所有现有的迁移能力估计算法。

Jul, 2023

本研究探索了使用迁移学习来提高医学影像中深度卷积神经网络对器官分割的性能，研究结果表明迁移学习可改善标注的效率和提高准确的器官分割，在医学影像领域具有潜在应用价值。

Nov, 2023

本研究解决了医学图像分割任务中标签训练数据稀缺的问题，提出了一种基于对比学习的新型可迁移性指标，用于衡量预训练模型对目标数据的稳健性。研究发现，较短的预训练时间通常能在下游任务中取得更好的效果，从而优化了医学图像分割的预训练过程。

Oct, 2024