借助解缠绕的自监督学习和元学习提升医学图像分类的少样本学习

Mar, 2024

借助解缠绕的自监督学习和元学习提升医学图像分类的少样本学习

Boosting Few-Shot Learning with Disentangled Self-Supervised Learning and Meta-Learning for Medical Image Classification

PDF

Eva Pachetti, Sotirios A. Tsaftaris, Sara Colantonio

TL;DR应用于医学成像等关键领域的深度学习模型使用受限的训练数据，我们提出了一种策略来提高在低数据情况下训练的模型的性能和泛化能力。通过预训练和元微调，本方法通过在元训练中暴露模型于更具挑战性的分类任务，进而在元测试中对更具临床相关性但更容易的任务进行评估，以增强模型的泛化能力。该方法在两个不同的医学任务上进行了实验证明了其有效性，并在评估数据的分布变化时保持了竞争力。

Abstract

Background and objective: Employing deep learning models in critical domains such as medical imaging poses challenges associated with the limited availability of training data. We present a strategy for improving

deep learning models limited training data self-supervised learning classification tasks medical imaging

发现论文，激发创造

具有解缠度的半监督元学习用于通用领域医学图像分割

本文提出了一种新颖的半监督元学习框架，其中包括解缠结和显式对与领域位移相关的表示进行建模，对于医学图像分割问题，这项技术表现良好，尤其在有限的标注数据情况下具有更好的一般化性能和鲁棒性。

Jun, 2021

大型自监督模型推进医学影像分类

本研究探讨了自监督学习作为医学图像分类的预训练策略的有效性，使用领域特定的无标签医学图像进行自监督学习，并引入一种新颖的多实例对比学习 (MICLe) 方法，为医学图像分析中的皮肤病和胸部 X 光分类任务提供了更为准确的预测。

Jan, 2021

医学影像中少样本学习的系统回顾

基于系统回顾，本文阐述了少样本学习在医学影像识别中的广泛应用，特别是基于元学习的方法，该方法可以克服数据稀缺问题，适应少标注样本，并且常用的技术是监督学习和半监督学习，主要应用领域集中在心脏、肺和腹部等部位。

Sep, 2023

自适应对比学习在半监督医学图像分割中的应用 —— 基于元标签方法

本文提出了一种利用元标签注释的对比学习方法，用于医学影像分割中模型表现的优化。模型在预训练和半监督训练中使用元标签注释，并采用自适应学习方法消除噪声标签，实验结果表明这种方法在几个数据集下表现优异。

Jul, 2021

Few-Shot 弱监督医学图像分割的元学习器

本文提出了一个基于元学习的弱监督分割方案，并在医学成像领域进行了实验和对不同范例的比较分析，研究结果表明度量学习元学习方法在小型领域变化的任务中具有更好的分割结果，而某些梯度和融合的元学习方法则对大型领域变化具有更好的推广性。

May, 2023

Few-Shot 医学文本分类的元学习

通过研究 meta-learning 和鲁棒性技术在基准文本和医学数据上的应用，我们发现 meta-learning 是基于文本的数据的合适框架，具有更好的数据效率和与 few-shot 语言模型可比的性能，并且可以成功地应用于医疗笔记数据，同时与 DRO 结合的 meta-learning 模型还可以提高疾病编码的最坏情况损失。

Dec, 2022

自我监督元学习用于少样本自然语言分类任务

本文提出了一种自监督的方法来生成大量的 meta-learning 任务分布，通过这种方法，将 transformer 模型的预训练与 meta-learning 相结合，证明了这种方法能够在 NLP 任务上实现更好的少样本泛化。

Sep, 2020

多视角自监督解缠结通用图像降噪

通过多角度自监督解缠方法 (MeD)，本文在合成噪声和真实噪声的实验分析中展现了该方法在未见过的新噪声类型上相对于之前的自监督方法的卓越性能。在真实噪声上，该方法的性能甚至超过了其监督对照组超过 3 dB。

Sep, 2023

半监督和自监督学习在医学图像上的准确率与时间前沿

对医学图像分类应用进行的研究表明，使用未标记的数据可以提高分类器的性能，通过自监督学习和半监督学习的方法，本研究在医学图像领域设计了一个基准测试，发现 MixMatch、SimCLR 和 BYOL 方法是强有力的选择，并提供适用于新医学任务的设置以及进一步搜索的方法。

Jul, 2023

医学图像分割的两阶段多任务自监督学习

医学图像分割使用深度学习技术取得了重大进展，然而医学应用中固有的数据稀缺性对深度学习的分割方法构成了巨大挑战。自监督学习通过从可用数据集中创建辅助学习任务，并利用解决这些任务获得的知识来更好地解决目标分割任务，提供了一种解决方案。本研究提出了一种两阶段训练方法，可以有效利用多个辅助任务创建多个出色的分割模型，然后将它们合并为一个更强大的模型。该方法在 X 光气胸分割数据集上训练了 U-Net 模型，并对几种现有方法进行了实验比较，结果表明了方法的优越性。

Feb, 2024