通过自注意力和自监督学习实现对标签噪音容忍的医学图像分类
对于计算机视觉任务尤其是图像分类任务,本综述全面回顾了应对噪声标签的不同深度学习方法的演变,研究了不同的噪声模式,并提出了一种由现实世界数据引导的算法来生成合成标签噪声模式,以形成一个新的以真实世界数据为指导的合成基准,并在该基准上评估了一些典型的噪声鲁棒方法。
Apr, 2024
本论文提出了一种有效的迭代学习框架,用于医学图像的噪声标签分类问题。具体而言,我们提出了一种在线不确定样本挖掘方法,以消除嘈杂标记的图像的干扰,接着,我们设计了一种样本重新加权策略,以保留正确标记难样本的有用性。我们的方法在皮肤病变分类任务中得到了很有希望的结果。
Jan, 2019
该论文提出了一种基于无标签干扰数据集训练深度卷积神经网络的新型框架,并使用一个无向图模型来描述干净和嘈杂标签之间的关系,在监督学习过程中学习这个模型。该模型在图像标注问题上应用,并在 CIFAR-10 和 MS COCO 数据集上展示出有效的标注效果和在训练中实现了减少标签噪声的效果。
May, 2017
提出了一个深度学习神经网络的标签检查和修正方法,该方法结合了小损失选择和噪声校正的思想,采用两个不同的网络来通过小损失选择方法训练,并根据两网络的分类误差和同意误差的评估来度量训练数据的置信度,在真实和人工数据集上测试表明该方法优于基准方法。
Feb, 2022
医学图像分类中存在嘈杂标签会对深度学习产生重大影响,自监督预训练可以提高对嘈杂标签的鲁棒性,但这种鲁棒性受诸如类别数目、数据集复杂性和训练规模等因素的影响。本研究全面探讨了自监督学习与医学图像分类中嘈杂标签鲁棒性之间的相互作用,结果显示在五个数据集中(Fetal plane, DermNet, COVID-DU-Ex, MURA, NCT-CRC-HE-100K),DermNet 是最具挑战性的数据集,但对嘈杂标签表现出更强的鲁棒性,而对于嘈杂标签的鲁棒性增强方面,对比学习是最有效的自监督方法。
Jan, 2024
噪声标签对基于深度学习的监督图像分类性能有负面影响,而自监督预训练权重的模型初始化可以减少特征损坏并提高分类性能,但尚未探索其他自监督方法对噪声标签的影响以及医学图像中仅使用自监督预训练方法对噪声标签的影响。本研究探索了对两个医学数据集进行对比和预备任务的自监督预训练,用于初始化深度学习分类模型的权重,结果显示使用自监督学习获得的预训练权重可以有效学习更好的特征,并提高对噪声标签的鲁棒性。
Aug, 2023
This paper proposes a method to improve the robustness of deep learning models in the presence of noisy labels by utilizing unsupervised learning and cluster regularization.
Jul, 2023
本文提出一种噪声容忍的训练算法,其中在传统梯度更新之前进行元学习更新来模拟实际训练。通过生成合成噪声标签进行训练,该元学习方法训练模型,以便在使用每个设置的合成噪声标签进行一次梯度更新后,模型不会过度拟合特定的噪声,从而提高深度神经网络的性能。
Dec, 2018