Jun, 2023

面向移动应用的轻量级 SAM：更快的分割任何物体

PDF
TL;DR该论文介绍了一种名为 MobileSAM 的轻量级 SAM 模型，其将重量级图像编码器替换为轻量级图像编码器，并且使用解耦蒸馏技术来训练模型，以便在移动设备上使用，相对于 FastSAM，MobileSAM 模型可缩小 7 倍且速度快 4 倍。
segment anything modelsamvisionimage encodermobilesam
发现论文，激发创造
  • 快速分割任何物体

    本论文针对计算机视觉中处理高分辨率输入带来的高昂计算代价提出了使用基于 CNN 检测器结合实例分割进行图像分割的替代方案，实验结果表明该方法仅使用 SAM 作者发布的 1/50 数据集，便可在 50 倍的运行时速下实现与 SAM 方法基本相当的性能。

    Jun, 2023

  • TinySAM: 高效细分任意模型的突破

    提出了一种 TinySAM 模型，通过知识蒸馏、后训练量化和分层分割策略，在保持零样本性能的同时大幅度减少了计算成本，进一步推动了高效分割任务的发展。

    Dec, 2023

  • SqueezeSAM: 用户友好的移动交互分割

    我们旨在开发一个适用于摄影应用的 SAM 模型的版本。SqueezeSAM 模型体系结构在性能和模型尺寸上相比原模型具有更高的效果，我们使用显著性物体检测生成初始分割掩码，用户可以进行交互编辑，并通过引入新的数据增强方案来实现期望点击相关物体的整体分割。

    Dec, 2023

  • 高效 SAM：基于掩码图像预训练的高效物体分割

    基于大规模 Transformer 模型的 SAM 模型制约了其在广泛现实应用中的计算成本。为解决这个问题，我们提出了轻量级 SAM 模型 EfficientSAMs，借助图像预训练方法 SAMI，通过 SAM 图像编码器重建特征进行视觉表征学习，并在 SA-1B 上微调模型，实现对图像分类、对象检测、实例分割和语义对象检测等多个视觉任务的评估。结果显示，SAMI 方法在面向零样本实例分割等任务上，我们的 EfficientSAMs 表现优于其他快速 SAM 模型，达到显著增益（例如，在 COCO/LVIS 上的 AP 提高了约 4 个点）。

    Dec, 2023

  • RepViT-SAM：面向实时分割任意物体

    为了在资源受限的移动设备上实现实时分割任何物体，本文使用了 RepViT-SAM 模型，代替了 SAM 中的重型图像编码器，得到了具有显著改进的零样本迁移能力和近 10 倍更快推理速度。

    Dec, 2023

  • EfficientViT-SAM：高效的无损性能 Segment Anything 模型

    我们提出了 EfficientViT-SAM，这是一种新的快速分段任意模型系列，通过保留 SAM 的轻量级提示编码器和屏蔽解码器，以 EfficientViT 替代了较重的图像编码器。通过从 SAM-ViT-H 图像编码器到 EfficientViT 的知识蒸馏进行训练，并在 SA-1B 数据集上进行端到端训练，EfficientViT-SAM 在不损失性能的情况下，在 A100 GPU 上的 TensorRT 加速能够传递 48.9 倍的速度提升。我们的代码和预训练模型已在此 https URL 发布。

    Feb, 2024

  • 0.1% 数据高效切割

    SlimSAM 是一种新型的 SAM 压缩方法，通过高效地重用预训练的 SAM，采用统一的修剪 - 蒸馏框架，创新的交替瘦身策略以及新颖的无标签修剪准则，以显著降低训练成本并在性能上取得重大改进。

    Dec, 2023

  • MobileSAMv2：更快的从任何物体分割到任何物体

    通过对象发现直接生成有效提示来提高图像分割模型的效率和性能。

    Dec, 2023

  • 个性化一次性分段模型

    本文提出了一种称为 PerSAM 的、无需训练的个性化方法，该方法首先通过位置先验定位目标概念，然后通过三种技术 - 目标引导注意力、目标语义提示和级联后处理在其他图像或视频中对其进行分割，有效地适应 SAM 的私人使用。此外，我们还提出了一种高效的单次微调变体，PerSAM-F，以缓解掩模的歧义。我们构建了一个新的分割数据集 PerSeg，并在具有竞争性的性能的视频对象分割上测试了我们的方法。

    May, 2023

  • Group-Mix SAM：工业生产线应用的轻量级解决方案

    使用轻量级图像编码器，通过解耦蒸馏在资源有限环境下训练 MobileSAM 的编码器，得到了参数和浮点运算量更少，并在工业数据集上与 MobileSAM 相当的 Group-Mix SAM，表现优秀，适合实际装配线应用。

    Mar, 2024