Sep, 2023

自我监督的 TransUNet 用于儿童尺骨远端超声区域分割

PDF
TL;DR使用无标签领域特定数据进行自监督学习的方法在医学图像上产生了令人注目的效果，该论文研究了在儿童腕部超声扫描中使用 TransUNet 的口罩自编码器自监督学习 (SSL-MAE) 方法，用于分割骨骼区域，并发现改变嵌入和损失函数能够产生比原始 SSL-MAE 更好的下游结果。此外，通过实验发现，仅使用 SSL-MAE 对 TransUNet 进行预训练并不能与无 SSL-MAE 预训练的 TransUNet 在下游分割任务中取得相同效果。
发现论文，激发创造
  • 开放场景半监督医学图像分类

    本文提出一种针对医疗图像分类领域的半监督学习方法，借助于新领域、新标签的未标记数据，采用基于双路径异常值估计和变分自动编码器预训练的方法，实现更好的开放场景下的分类表现。在实验中，该模型在不同的医疗学习场景下 Demonstrate 了更好的分类表现。

    Apr, 2023

  • 自集成无监督域自适应在医学影像分割中的应用

    本研究中，我们对自我集成方法进行了扩展，探讨了多个方面，证明自我集成即使在使用少量非标记数据时也能提高模型的泛化能力，从而在医学成像应用中解决了单一领域下模型泛化的问题。

    Nov, 2018

  • 内镜视频分析的自监督学习

    自监督学习 (SSl) 在计算机视觉中取得了重要突破，在生物医学中具有重要作用，特别是在需要高度专业知识的数据注释领域。本研究使用先进的 SSL 框架，即 Masked Siamese Networks (MSNs)，对内窥镜视频分析进行研究，以检测和治疗感染、慢性炎症性疾病或癌症。我们构建了大规模的无标签内窥镜视频数据集，用于训练 MSNs，以充分利用 SSL 的优势，并通过有限的注释数据集进行二次训练，从而在内窥镜基准测试中实现了最先进的性能，如腹腔镜和结肠镜手术阶段识别以及结肠镜息肉表征。此外，我们实现了注释数据量的 50％减少，同时不降低性能。因此，我们的工作证明了 SSL 在内窥镜检查中可以大大减少对注释数据的需求。

    Aug, 2023

  • 利用自监督深度学习增强乳腺癌筛查乳腺 X 线摄影的检测能力

    本研究探讨了基于强数据扩充的无监督自我学习技术在人工智能应用中的重要作用，以乳腺癌检测为例，通过实验验证表明使用该技术可以大幅提高数据利用率，而且更容易迁移到其他数据集，是医学图像人工智能领域迈向无监督学习和去掉传统稀缺标签的重要突破。

    Mar, 2022

  • 自监督训练与监督训练在器官样本图像分割中的比较

    数字显微镜中的自我监督学习对图像分割具有重要意义，采用了对预任务相似的无标签数据进行内在特征学习的方法，通过像素减少和图像模糊等增强技术，能够在相对较小和更大的数据集上优于传统的监督学习方法，得到更高的 F1 得分。

    Nov, 2023

  • 自监督掩码图自编码器

    本研究提出了一种掩蔽图自编码器 (GraphMAE)，解决了基于结构数据增强和复杂的训练策略的对比学习的不足之处，侧重于特征重建，并表现出优异的性能。

    May, 2022

  • 模态不可知的元学习遮蔽自编码器的自监督学习

    通过将 Masked Auto-Encoder（MAE）作为一个统一的、与模态无关的自监督学习框架，通过元学习对其进行解读，并从统一提高其在不同模态下的自监督学习的动机出发，我们提出了 MetaMAE。我们的关键思想是将 MAE 的掩码重构视为元学习任务，并通过未掩码标记的变换器元学习的涉及来预测掩码令牌。基于这个新颖的解读，我们提出了集成两种先进的元学习技术的方法。首先，我们使用基于梯度的元学习来适应变换器编码器的平均潜在因素以增强重构。然后，我们通过任务对比学习来最大化平均化和适应化潜在因素之间的对齐，从而指导变换器编码器更好地编码任务特定的知识。我们的实验证明了 MetaMAE 在与模态无关的自监督学习基准（称为 DABS）中的优越性，明显优于之前的基线。

    Oct, 2023

  • 掩码自编码器在视觉和其他领域的自监督学习中的调查

    本文是针对掩膜自编码器在自监督学习中扮演的角色所做的综述，着重于介绍其在视觉模式识别领域中的应用，包括历史发展、最新进展以及对各种应用的影响。

    Jul, 2022

  • 自监督学习的高效医学图像评估

    本研究提出了一种新颖有效的数据评估策略（EXAMINE 分数），通过自监督学习网络提取有用的潜在表示来排名非标记医学图像数据的质量，以便在成本高昂的标记过程中选择最有价值的数据，大大提高了数据标记的效率和准确性。

    Sep, 2022

  • 自监督遮蔽数字高程模型编码用于低资源下游任务

    利用自我监督学习方法，通过预训练的遮蔽自动编码器在 Digital Elevation Models 上提取建筑物和道路分割，有效利用有限的标注数据，为地表变化频繁的任务提供数据高效的学习器。

    Sep, 2023