电子显微镜的自监督学习:面向高级图像分析的基础模型
我们提出了一种新的预训练框架,利用多尺度视觉表示来捕捉电子显微镜(EM)体积中体例的像素级一致性和特征级一致性,并在特征金字塔上使用对比学习方案提取多尺度的具有区分性的特征,以实现神经元和线粒体体例分割任务的表现提升。
Aug, 2023
本研究提出了一个基于知识的学习框架 (TOWER),通过协同对比学习和生成学习方法的三个阶段,实现对生物医学显微图像的加强识别,该方法在大规模和复杂的生物医学显微图像无监督训练中优于 SimCLR 和 BYOL 方法,同时可用于多模态医学图像分析和半监督学习中。
Nov, 2022
本文探讨了在医学图像分割中监督学习与自监督学习的预训练方法,发现在自监督学习方法中,使用自然图像和目标领域特定图像进行预训练可以实现最快和最稳定的收敛,在低数据场景下,将图像分类网络预训练在 ImageNet 上可以获得最佳精度。
Sep, 2022
利用基于多分辨率背景下组织病理全切片图像的潜在上下文线索的自我监督预训练任务,以及新型的师生半监督一致性模式,使用任务无关和任务特定无标签数据来学习强大的监督信号进行无监督表征学习,并在有限标签数据下表现出与其他现有最先进方案相近乃至优越的性能。
Feb, 2021
最近在自我监督学习方面的突破已经实现了使用大规模无标签数据集来训练视觉基础模型,该模型可以推广到各种下游任务。本项目的目标是训练最大的学术基础模型,并通过在大型临床病理数据集上的预训练和下游性能评估来对最重要的自我监督学习算法进行基准测试。结果表明,与自然图像的预训练相比,病理数据的预训练对下游性能是有益的。此外,DINO 算法在所有测试任务中实现了更好的泛化性能。这些结果标志着计算病理学研究的一个阶段性变化,为基于大规模、并行预训练的更高性能模型开辟了新时代。
Oct, 2023
自监督预训练在医学图像诊断任务中通过改善特征表示进而提高了下游任务性能,尤其是在无标注样本数量远远超过有标注样本数量时。该综述总结了近期在 X 射线、计算机断层扫描、磁共振和超声成像领域中应用自监督预训练与全监督学习相比较的研究,最重要的发现是自监督预训练普遍提高了诊断任务的性能。基于综合证据,为考虑使用自监督学习的实践者提供了相关的建议,同时针对当前研究中存在的局限性,提出了未来研究的方向与实践,如将临床知识与理论基础的自监督学习方法结合、在公共数据集上进行评估、扩展对超声成像领域的研究证据,以及表征自监督预训练对泛化性能的影响。
Sep, 2023
利用荧光分子创建低密度、衍射限制图像的长序列,可以实现高精度的分子定位;然而,该方法需要较长的成像时间,限制了对活细胞动态相互作用的观察;我们提出了一种深度展开的自监督学习方法,通过训练一个仅从给定测量值学习的基于模型的自编码器来消除对大量训练数据的需求,该方法在性能上超过了其有监督对应物,从而实现了动态成像在衍射极限以下,而无需任何标记的训练样本;此外,建议的基于模型的自编码器框架可以用于改善任何稀疏恢复框架中的泛化能力,而无需外部训练数据。
Mar, 2024
本文比较了三种自监督预训练模型和一个有监督的基线模型,在五个数据集上进行了皮肤病变的诊断。结果表明,自监督预训练模型可以在提高准确性和降低结果的变异性方面与有监督的基线模型相媲美,尤其在数据量少的情况下表现更加稳定和优秀。
Jun, 2021
本研究探讨了自监督学习作为医学图像分类的预训练策略的有效性,使用领域特定的无标签医学图像进行自监督学习,并引入一种新颖的多实例对比学习 (MICLe) 方法,为医学图像分析中的皮肤病和胸部 X 光分类任务提供了更为准确的预测。
Jan, 2021
数字显微镜中的自我监督学习对图像分割具有重要意义,采用了对预任务相似的无标签数据进行内在特征学习的方法,通过像素减少和图像模糊等增强技术,能够在相对较小和更大的数据集上优于传统的监督学习方法,得到更高的 F1 得分。
Nov, 2023