消除皮肤损伤数据集和模型的偏见?不那么快
本文针对现有的皮肤病例资料集中的偏见问题,提出一系列实验,发现机器学习模型在没有临床有意义信息的情况下可以正确分类皮肤病变图像,这强烈暗示了伪相关性引导模型。通过本次实验,揭示了模型在小型数据集中训练和评估的局限性,为未来的模型指导提供了参考。
Apr, 2019
提出了一种基于标注伪影的流程,用于深度学习在皮肤病变分析中的领域适应性评估与去偏倚。在具有不同程度偏差的数据集上进行建模,并利用基于皮肤病变的数据集进行域通用化。在测试时去除推理图像中的伪特征,实验表明该流程在有偏数据集的表现指标有所提高,且对于伪影的忽略具有较好的效果,但在外部数据集上的表现较差,尤其需要对于皮肤病变分析的公平性更加关注。
Aug, 2022
本文研究了卷积神经网络在皮肤病变图像鉴别中的应用,针对现有训练数据中存在的偏见问题,通过两种偏置解除技术对自动黑素瘤分类流水线进行了优化,并表明这些方法可以合理减轻手术标记和前期研究中出现的误差。实验证明,针对一些偏见使用不同的去偏置技术有着明显的效果改善,同时提高了黑素瘤图像分类算法的泛化能力。
Sep, 2021
通过利用人 - 机循环方法中的正(如病变区域)和负(如图像伪影)关键点,我们提出了一种名为 TTS(测试时选择)的方法,该方法可以在不重新训练的情况下有效地使模型避免利用伪影相关的关联,并具有较少的标注需求,从而解决了皮肤病变分析模型受到图像伪影的偏见影响的问题。我们展示了在 ISIC2019 数据集上的应用,演示了我们的模型是如何在现实世界中减轻偏见的。
Aug, 2023
基于深度学习模型的皮肤疾病诊断中,为了解决公平性问题且不损害预测准确性,我们提出了一种基于两个偏倚的教师模型的方法,通过权重损失函数进行偏倚与去偏倚的训练,提高了模型的准确度和公平性。
May, 2024
本文通过对不同皮肤病例数据集的分析,指出了在皮肤病图像分类方面,深层模型中的 shape-bias 标准并不一定适用。实验结果表明,皮肤病图像的分类并非基于个别特征,而是需要考虑诸多特征的组合。因此,不使用 shape-bias 标准有时候甚至可以提高皮肤病分类器的性能。
Jun, 2022
本文研究了深度神经网络在皮肤癌诊断中可能存在的混淆因素问题,并提出了人类介入的模型训练框架,在黑盒模型解释性概念空间中解释了复杂特征表示,并对数据集进行了清洗,最终提高了模型的性能与可靠性。
Mar, 2023
该研究利用两个全因子实验,分析了深度学习模型在皮肤病变分析中的设计和评估方法,结果表明训练数据量、测试数据增强和输入分辨率对模型性能影响最大,而集成模型是一种成本效益高且可靠的替代方法。同时指出,推动皮肤病变分析研究需要积累更大的公共数据集,并要避免使用测试集中的特权信息。
Nov, 2017
在这项工作中,我们介绍了第一个端到端训练框架,该框架同时整合了(i)用于避免附着在假象相关性上的流行去偏置分类器(例如分布鲁棒优化(DRO))和(ii)用于揭示与任务相关的可推广成像标记的反事实图像生成。此外,我们提出了一种新的度量标准,即假象相关性附着分数(SCLS),用于量化分类器依赖假象相关性的程度,该程度由反事实图像揭示。通过对两个公共数据集进行全面实验(包括模拟和真实视觉伪迹),我们证明了去偏置方法:(i)能够学习到可推广的标记,并且(ii)成功忽略假象相关性,专注于潜在的疾病病理。
Aug, 2023
该篇论文通过使用 EdgeMixup 数据预处理算法实现了对深度学习模型在诊断皮肤病方面存在的模型偏差进行纠正,并对 Lyme,Tinea Corporis 和 Herpes Zoster 等病变诊断模型的性能进行了比较和分析,其中 EdgeMixup 在减少光之间和暗之间皮肤样本分类准确率差距方面显示出显著的表现优势。
Feb, 2022