Sep, 2023
深度模型初始化对成人和儿科胸部X射线图像推广的影响揭示
Uncovering the effects of model initialization on deep model
generalization: A study with adult and pediatric Chest X-ray images
TL;DR模型初始化技术在医学计算机视觉中的深度学习模型性能和可靠性的提高至关重要。本研究探讨了三种深度模型初始化技术：Cold-start、Warm-start和Shrink and Perturb start，并重点研究了成人和儿科人群的胸部X射线影像。我们还提出了新颖的集成方法：F-score-weighted Sequential Least-Squares Quadratic Programming（F-SLSQP）和Attention-Guided Ensembles with Learnable Fuzzy Softmax，以整合来自多个模型的权重参数，并利用它们的集体知识和互补表示形式。研究结果表明，使用ImageNet预训练的权重初始化的模型在内部和外部测试中表现出卓越的泛化能力，与随机初始化的模型相比具有一致的性能，并且这些模型的权重级别集成在测试过程中具有更高的召回率(p<0.05)。因此，本研究强调了使用ImageNet预训练权重初始化的好处，尤其是与权重级别的集成一起使用，以创建强大且具有广泛适用性的深度学习解决方案。