Jul, 2020

深度半监督知识蒸馏用于重叠宫颈细胞实例分割

PDF
TL;DR本文提出了一种基于深度学习的半监督知识蒸馏方法，通过标注和未标注的数据进行数据训练，建立了一个包含教师和学生网络的 Mask-guided Mean Teacher framework with Perturbation-sensitive Sample Mining (MMT-PSM)。实验表明，该方法相对于只学习标注数据的监督方法和最先进的半监督方法，显著提高了性能。
deep learningcervical cellinstance segmentationknowledge distillationsemi-supervised
发现论文，激发创造
  • 改善半监督实例分割的 (伪) 标签

    通过引入一种双重策略来增强教师模型的训练过程，从而显著改善少样本学习，同时提出一种校准校正机制，使学生模型能够纠正教师的校准错误。实验结果在 LVIS 数据集上表现出显著的提升，平均精度（AP）提高了 2.8％，稀有类别的 AP 提高了 10.3％。

    Mar, 2024

  • 半监督实例分割的引导蒸馏

    通过引入新颖的 “引导燃烧” 阶段的教师 - 学生蒸馏模型以及评估不同的实例分割架构、骨干网络和预训练策略，我们改进了蒸馏方法，并利用未标记数据在引导燃烧阶段中进行了指导，从而显著提高了先前最先进的结果。

    Aug, 2023

  • 多任务多尺度对比知识蒸馏在高效医学图像分割中的应用

    本研究旨在探究神经网络在医学图像分割任务中的知识迁移可行性，特别关注从大规模多任务的 “教师” 网络向更小的 “学生” 网络的迁移。我们通过多尺度特征蒸馏和监督对比学习的结构，通过整合从教师模型获取的知识表示来提高学生模型的性能，并通过大量实验和消融研究评估了多尺度特征蒸馏的影响，以及不同损失对知识迁移的整体性能的影响。

    Jun, 2024

  • 少样本类别增量语义分割：伪标记和知识蒸馏

    我们提出了一种从少量样本中学习语义分割模型的新类别的方法，通过伪标签策略进行扩充，通过知识提取能够保留现有类别的知识。

    Aug, 2023

  • 重新思考半监督医学图像分割的数据扰动和模型稳定化

    提出一种用于半监督医疗图像分割的简单而有效的方法 DPMS，重点在于通过数据扰动和模型稳定化生成适当的预测不一致，从而显著提升了 SSMIS 的性能。

    Aug, 2023

  • 基于知识蒸馏的高效医学图像分割

    我们提出了一种高效的网络结构，通过从训练充分的医学图像分割网络中提炼知识来训练另一个轻量级网络，从而使得轻量级网络在保留其运行效率的同时，显著提高了其分割能力。通过使用我们为医学图像分割量身定制的新颖蒸馏模式，从教师网络向学生网络传递语义区域信息，避免了处理医学图像时遇到的模糊边界问题。在我们的实验中，轻量级网络的性能提高了 32.6％，同时在推理阶段保持了可移植性，并在 LiTS17 和 KiTS19 两个公认的公共 CT 数据集上进行了验证。

    Aug, 2021

  • P2Seg: 通过相互蒸馏进行逐点监督的分割

    设计了一个互动蒸馏模式，结合实例位置和语义信息，实现了准确的实例级别对象感知。在 PASCAL VOC 和 MS COCO 数据集上取得了显著的优势结果。

    Jan, 2024

  • 面向轻量级半监督语义分割的多粒度蒸馏方案

    提出一种基于多层级知识蒸馏技术的轻量级半监督语义分割模型，采用标注数据和未标注数据的协同蒸馏方案，结合像素级一致性约束、语义感知层次损失和内容感知区域损失等多层次损失策略，从多个角度对模型知识进行精炼，能够在消耗更少的运算资源和更小的模型体积下取得同类模型不可比的性能提升。

    Aug, 2022

  • 标签匹配半监督目标检测

    本篇论文从分布级别和实例级别两个不同但互补的视角提出了一个简单而有效的 LabelMatch 框架，用于解决自我训练期间存在的标签不匹配问题，并通过 Proposal Self-assignment 机制确定准确的伪标签来促进学生和教师之间的匹配。在 MS-COCO 和 PASCAL-VOC 数据集上的实验结果表明，所提出的框架明显优于其他现有方法。

    Jun, 2022

  • 基于协作知识分享的点监督单细胞分割

    本文提出了一种基于自学习的方法，即协同知识共享，用于在单细胞分割模型的弱监督训练中，通过共享主模型和轻量级协作者模型之间的知识来缓解大规模训练数据的需要。实验结果表明该方法在不需要大规模手动标注训练数据的情况下，能够取得较好的单细胞分割效果。

    Apr, 2023