基于 SAM 辅助的遥感影像语义分割及对象和边界约束
本研究介绍了一种用于自动化少样本语义分割的结构化框架,利用 Segment Anything Model(SAM)模型,并借助先前引导的掩模生成粗略像素级提示,以获得更高效的语义可辨别分割结果,实验证明该方法在 DLRSD 数据集上优于其他可用的少样本方法。
Nov, 2023
由于高分辨率遥感卫星的发展,遥感相关研究工作获得了极大的便利。SAM 引入了一种普适的预训练模型用于图像分割任务,但是直接应用于遥感图像分割任务效果欠佳。为此,我们提出了 RSAM-Seg,即在 SAM 的基础上进行了适应性修改,消除了对手动干预提供提示的需求。在 SAM 的编码器部分的多头注意力块中,我们提出了 Adapter-Scale 和 Adapter-Feature 模块,它们旨在将高频图像信息和图像嵌入特征融入生成的图像引导提示中。在包括云检测、场地监测、建筑物检测和道路制图任务的四个不同遥感场景上进行了实验证明,RSAM-Seg 不仅改善了原始 SAM 和 U-Net 在云、建筑物、场地和道路场景中的效果,还突出了其作为辅助注释方法的潜力,可以识别某些数据集的真实值中的缺失区域。此外,在少样本情况下的表现也值得称赞,凸显了其在处理有限数据集时的潜力。
Feb, 2024
本研究旨在将 Meta AI 的创新图像分割模型 Segment Anything Model(SAM)应用于遥感图像分析领域,特别是处理来自不同地理背景的航空和轨道影像,实现 SAM 在遥感影像处理中的潜力。
Jun, 2023
研究了针对视觉任务开发的第一个基础模型,称为 Segment Anything Model(SAM)。SAM 可以基于便宜的输入提示,如一个或多个点、边界框或掩码,在输入的图像中分割对象。作者在大量的视觉基准任务中研究了 SAM 的零样本图像分割准确性,并发现 SAM 通常实现了与目标任务上进行了训练的视觉模型类似或有时超过其识别精度。他们检查了 SAM 在多样化、广泛研究的基准任务集上的表现。然而,作者还研究了 SAM 在航空图像问题中的表现,他们发现虽然 SAM 在航空图像上通常表现良好,但在某些情况下由于航空图像和目标对象的独特特征而失败。
Apr, 2023
提出了一种基于 Segment Anything Model (SAM) 的新框架 Geographical SAM (GeoSAM),通过使用来自零样本学习的稠密视觉提示和预训练的 CNN 分割模型的稀疏视觉提示,实现了对地理图像中的移动设施进行精细调优的策略。所提出的 GeoSAM 在地理图像分割中优于现有方法,特别是在道路基础设施、行人基础设施和平均方面分别提高了 20%、14.29% 和 17.65%,在实现对地理图像中包括道路和行人基础设施的移动设施的分割上取得了重大突破。
Nov, 2023
本研究提出 SAMRS,通过整合 SAM 和现有的遥感物体检测数据集以生成大规模遥感分割数据集,该数据集在大小上超过了现有的高分辨率遥感分割数据集。SAMRS 可用于语义分割、实例分割和目标检测等研究领域。同时,我们对 SAMRS 进行了全面的分析并希望它能促进遥感分割、特别是大规模模型预训练等方面的研究。
May, 2023
本研究探讨了无监督多模态变化检测在时效性任务和综合多时序地球监测中的重要性,并介绍了利用光学高分辨率图像和 OpenStreetMap(OSM)数据进行无监督多模态变化检测的方法。我们通过使用视觉基础模型 Segmentation Anything Model(SAM)来解决这一任务,利用 SAM 的优秀的零样本迁移能力获得高质量的光学图像分割图,从而能够直接比较这两种异构数据形态。我们引入了两种策略来指导 SAM 的分割过程:'no-prompt' 方法和 'box/mask prompt' 方法。这两种策略分别用于检测一般情况下的土地覆盖变化和在已有背景下识别新的土地覆盖对象。在三个数据集上的实验结果表明,所提出的方法与代表性的无监督多模态变化检测方法相比能够取得更具竞争力的结果。
Jan, 2024
通过引入 Semantic-SAM,我们提出了一种通用的图像分割模型,能够以任意所需的细粒度对任何物体进行分割和识别,具备语义感知和细粒度丰富性,实验证明我们的模型成功实现了语义感知和细粒度丰富性。
Jul, 2023
多类多实例分割是识别图像中多个对象类别和同一类别的多个实例的任务,提出了一种新颖的领域不变的通过真实 - 模拟 (Pseudo-Real) 微调策略来改善多类多实例分割模型的性能,尤其在室内场景理解方面表现出良好的泛化性能。
Mar, 2024
我们提出了一种新颖的方法来针对现有模型的泛化性能下降问题,将基础模型自适应于特定领域,如遥感图像。我们通过集成预训练的卷积神经网络作为提示生成器,为 Segment Anything Model 增加了识别能力,从而改善了其在遥感图像上的表现。通过在三个遥感数据集上评估我们的方法,包括 WHU Buildings 数据集、Massachusetts Buildings 数据集和 AICrowd Mapping Challenge 数据集,我们观察到我们的方法在不同分布的性能上取得了显著提高,并计划发布我们的代码库,以促进遥感领域对基础模型进行更多领域特定任务的探索。
Oct, 2023