提出了一种基于决策的掩蔽图像模型（drawing-based mask image model, MIM）方法，利用强化学习自动搜索最佳图像掩蔽比例和掩蔽策略，并通过多主体协作捕捉体素间的依赖关系，从而在神经元分割任务上显著优于其他自我监督方法。

Oct, 2023

提出一种新颖的基于细胞核感知的自监督预训练框架，通过组织病理图像与伪掩膜图像之间的无配对图像转换来捕获细胞核形态和分布信息，并采用条件和随机样式表示来调节生成过程，以实现预训练图像的真实性和多样性；同时，采用实例分割引导策略来捕获实例级信息。实验结果表明，该预训练方法在 Kather 分类、多实例学习和 5 个密集预测任务上优于有监督方法，并且在 8 个半监督任务上比其他自监督方法取得了更好的结果。

Sep, 2023

通过将 MIM 集成到现有的监督训练方法中，我们设计了一种简单而有效的方案，通过在视觉转换图像编码器上添加一个浅层的基于 Transformer 的解码器，并引入一个基于遮蔽图像输入的 MIM 任务，来改善下游任务的学习表示质量，如分类、图像检索和语义分割。

Dec, 2023

本文提出了一种 Masked Image Modeling（MIM）的改进方案，通过在多个不同尺度的层次上进行重构任务，显式地指导多个层次的编码器，在减小预训练负担的同时，在分类、检测和分割任务中取得可比或更好的性能。

Mar, 2023

我们引入了一种新的学习框架，即分块式遮蔽图像建模（BIM），用于解决遮蔽图像建模（MIM）的计算资源需求高的问题，并在保持卓越性能的同时大大降低内存消耗，同时实现多个深度不同的 DNN 骨干的并发训练，从而降低与单独训练每个 DNN 骨干相比的计算成本。这为资源受限的 MIM 训练提供了有前景的解决方案。

Nov, 2023

智能系统通过自我监督学习中的生成模型将复杂的感知输入转化为结构化编码，以获取与任务相关的信息，如物体类别和视觉表征。

Apr, 2024

本文研究了遮蔽图像建模技术在医学三维图像分析中的应用，发现其相比基于对比学习的方法能够更快地进行监督学习并达到更高的精度，使用高遮蔽率和相对较小的块大小预测原始像素值是医学图像建模的一项重要自监督预训练任务，轻量级的解码器或投影头设计能够加快训练速度并降低成本，而 MIM 方法在不同的图像分辨率和标签数据比例下都具有良好的效果。

Apr, 2022

本文提出了一种简单的自监督预训练框架 ConMIM，使用对比学习的方法在图像补丁级别上进行去噪自编码，通过不同的异构设计来提高网络的预训练性能，从而在多个视觉任务上实现了竞争性结果，如 ImageNet 分类，语义分割，目标检测和实例分割等。

May, 2022

我们发布了一个大规模的手工标注的细胞核数据集 NuInsSeg，其中包含来自 31 个人和小鼠器官的 665 个图像补丁，超过 30,000 个手动分割的细胞核。此外，我们首次提供了整个数据集的模糊区域掩模，用于表示图像的某些部分即使对于人类专家来说也无法精确和确定地进行手动注释。

Aug, 2023

介绍了一种基于 Vision Transformer 的新方法 CellViT，利用大规模的预训练模型，在 PanNuke 数据集上实现对细胞核的自动检测和实例分割的最新性能，并获得了 0.51 的平均全景质量和 0.83 的 F1 检测分数。

Jun, 2023