CVPRJun, 2024

AlignSAM: 通过强化学习将 Segment Anything 模型与开放环境对齐

PDF
TL;DR通过强化学习的自动提示方法，AlignSAM 将 Segment Anything Model (SAM) 与开放背景进行对齐，以拓展其在不同下游任务中的适用性，同时保持其参数不变。AlignSAM 通过与基本模型的交互，启动提示代理逐步改进分割预测，并引入强化学习策略网络以提供信息丰富的提示。此外，还引入了语义重新校准模块，以提供提示的细粒度标签，增强了模型在处理包含明确和隐含语义的任务中的能力。在现有基准模型上进行的实验证明了 AlignSAM 相较于现有方法的优越性。
发现论文，激发创造
  • 具有通用性的视觉增强学习与分割模型

    SAM-G 通过利用 Segment Anything Model (SAM) 的分割能力，结合 DINOv2 和 SAM 的图像特征，为视觉强化学习代理提供高质量的遮罩图像，显著改善了视觉泛化能力，并在 DMControl 和 Adroit 任务中相对于现有方法分别实现了 44% 和 29% 的改进。

    Dec, 2023

  • AI-SAM: 自动交互式分段模型

    我们介绍了一种新颖的范式及其第一个模型：自动与交互式分割模型（AI-SAM）。在这个范式中，我们对提示品质进行了全面分析，并引入了创新的自动与交互式提示器（AI-Prompter），它在自动生成初始点提示的同时接受额外的用户输入。我们的实验结果证明了 AI-SAM 在自动设置下的有效性，实现了最先进的性能。更重要的是，它提供了灵活性以整合额外的用户提示，从而进一步提升性能。项目页面可在链接提供的 URL 中找到。

    Dec, 2023

  • 个性化一次性分段模型

    本文提出了一种称为 PerSAM 的、无需训练的个性化方法，该方法首先通过位置先验定位目标概念，然后通过三种技术 - 目标引导注意力、目标语义提示和级联后处理在其他图像或视频中对其进行分割，有效地适应 SAM 的私人使用。此外，我们还提出了一种高效的单次微调变体，PerSAM-F，以缓解掩模的歧义。我们构建了一个新的分割数据集 PerSeg，并在具有竞争性的性能的视频对象分割上测试了我们的方法。

    May, 2023

  • 医学影像分割模型：实验研究

    本文对 Segment Anything Model 在医学图像中的效果进行了评估，结果表明性能受任务和数据集影响较大，需要进一步研究来适应医学图像领域。

    Apr, 2023

  • 关于区分任何模型（SAM）的调查：视觉基础模型遇见促进工程

    该文通过第一次全面调查介绍了受到重大关注的 Meta AI Research 开发的 Segment anything model（SAM）的性能表现和多种应用情况，并呼吁读者对该模型进行新的研究以促进其进一步发展。

    May, 2023

  • 探究 SAM 在不同实际应用中的问题：任何东西的分段并不总是完美的

    这篇研究论文讨论了 Segment Anything Model 在各个领域的表现及其未来发展前景，并提供了有助于未来研究活动的洞见，以完成通用分割任务。

    Apr, 2023

  • 如何利用 Segment Anything Model (SAM) 提升医学图像分割？

    该论文综述了 Segment Anything Model（SAM）在医学图像分割中的应用，包括实证基准测试和方法论改进，并讨论了 SAM 在医学图像分割中的未来方向和文献综述。

    May, 2023

  • 提升分段通用模型以实现开放词汇学习

    本研究旨在无缝地将 Segment Anything Model (SAM) 与开放词汇目标检测器集成在一起，引入了 SideFormer 模块和开放区域建议网络 (Open-set RPN) 等创新方法，以提升 SAM 在检测任意对象和开放词汇识别方面的性能。Sambor 在 COCO 和 LVIS 等基准测试中展现出卓越的零样本性能，并与之前的最先进方法竞争力十足，旨在为 SAM 赋予识别多样化对象类别和促进视觉基础模型的开放词汇学习提供有意义的努力。

    Dec, 2023

  • 非可见光谱影像应用的片段任意模型性能评估与变分提示

    Segment Anything Model (SAM) 通过使用不同的输入提示（如文本、边界框、点或掩膜）生成掩膜，克服了特定数据集稀缺性的约束，评估了 SAM 在 X 射线 / 红外模态中分割感兴趣对象的能力，结果表明 SAM 在给定盒子提示时可以分割 X 射线模态中的对象，但对于点提示而言，表现不稳定，特别是在分割细长物体和有机材料方面，SAM 的性能较差，这表明在考虑在 X 射线 / 红外图像上使用 SAM 时需要特别考虑跨模态泛化的问题。

    Apr, 2024

  • 自训练的大型视觉模型用于少样本医学图像分割

    通过对 SAM 的嵌入空间进行自我提示，我们提出了一种在医学视觉应用中自我提示的新视角，通过一个简单而有效的线性像素分类器，保留了大模型的编码能力、其解码器的上下文信息，并利用其互动性，我们在多个数据集上取得了竞争性的结果（与使用少量图像微调掩模解码器相比，改进超过 15%）

    Aug, 2023