关于分割算法的鲁棒性
本研究对 Segment anything model (SAM) 模型在各种噪声、图像修饰以及逆向攻击等情境中的鲁棒性进行了全面评估,并揭示了其在形状和样式方面的偏向性。
Jun, 2023
对 Segment Anything Model 模型进行了全面的鲁棒性研究,发现它在面对多种图像扰动时的性能普遍下降,在特定数据集上定制提示技巧和利用领域知识,可以提高模型的弹性和解决数据集特定的挑战,为实际应用提供更健壮和多功能的图像分割解决方案。
May, 2023
RobustSAM 是一种改进的 Segment Anything Model (SAM) 方法,通过增强 SAM 在低质量图像上的性能,同时保持其可提示性和零样本泛化能力。其在各种分割任务和数据集上的广泛实验证实了其卓越性能,特别是在零样本条件下,在广泛的现实世界应用中具有巨大的潜力。
Jun, 2024
本研究探讨了 Segment Anything Model 在机器人手术领域的鲁棒性和零样本泛化能力,并发现该模型在利用点基提示和未提示的设置下,对机器人手术仪器的分割效果较差,且在一些复杂的手术场景中无法识别器械。同时,该模型也缺乏足够的鲁棒性,需要进一步进行领域特定的微调。
Apr, 2023
基于 Segment Anything Model(SAM)的语义分割模型在机器人手术领域的鲁棒性、零样本泛化性能等方面进行了实证研究,发现 SAM 在使用边界框提示时表现出卓越的零样本泛化能力,但在点提示和未提示设置下,对仪器的整体分割困难重重,且在复杂手术场景中无法识别仪器且容易受到各种数据破坏形式的影响。提出的 Low-rank Adaptation(LoRA)调整方法结合 SAM,形成 SurgicalSAM 在不使用提示的情况下可以对各个类别的仪器进行遮罩预测,从而说明 SAM 在手术任务中仍需要进一步的专业领域微调。
Aug, 2023
该研究旨在对 SAM 进行有针对性的对抗攻击,提出了一种仅攻击图像编码器的简单且有效的方法,并提出了一种新的正则化损失以增强不同模型之间的特征传递性,通过增加对随机自然图像的特征占优势来进行黑盒对抗攻击。
Oct, 2023
准确的工具分割对于计算机辅助程序至关重要。在医学场景中,由于存在伪影和有限的训练数据,这项任务存在挑战。在未见数据上具有普遍性的方法代表了一个有趣的途径,其中零样本分割提供了解决数据限制问题的选项。使用 Segment Anything Model(SAM)进行初探性工作表明,基于边界框提示的方法具有显著的零样本普适性,然而基于点的提示导致性能下降,并且在图像破坏的情况下进一步恶化。我们认为,SAM 在高度受损图像上进行了过度分割,导致仅考虑单个分割掩码时性能下降,而重叠目标的分割掩码的组合则能产生准确的预测。本文利用 SAM 生成内窥镜帧的过度分割预测,并使用地面真实工具掩膜分析 SAM 的结果,当选择最佳的单个掩码作为预测时以及当结合所有与感兴趣对象重叠的各个掩码以获得最终预测掩码时。我们使用合成损坏、强度不同的 Endovis18 和 Endovis17 仪器分割数据集以及一种自行创建的现实世界数据集进行分析。将过度分割的掩码组合可提高 IoU。此外,在清晰图像上选择最佳单个分割时,得到了具有竞争力的 IoU 得分。结论:组合的 SAM 预测结果在一定程度的破坏下显示出了改进的结果和鲁棒性,然而在医学领域实施这些模型需要恰当的提示策略。
Feb, 2024
本文探讨了将 Segment Anything Model(SAM)应用于视频对象跟踪和分割任务的潜力,通过使用多种 prompt 和引入基于点的优化阶段,实现了在三个数据集上对比性能相当的视频对象 / 实例分割任务,该方法为基于 SAM 的后续应用赋予了跟踪能力。
Mar, 2024
该研究论文提出了一种更实用的区域级攻击方法,攻击者不需要了解精确的用户提示,通过对图像中目标对象上的任意点进行点击,以隐藏对象并使其不受 Segment Anything Models(SAM)的干扰,同时通过谱变换方法使攻击更具可迁移性,控制实验和对真实世界中的 SAM 服务进行的测试证实了其有效性。
Apr, 2024