ECCVDec, 2021

PolyphonicFormer: 深度感知视频全景分割的统一查询学习

PDF
TL;DR本文提出了一种称为 PolyphonicFormer 的视觉变换器，它使用查询查询技术将深度估计与全景分割统一起来，具有更好的性能。通过实验证明了我们的方法在深度估计和全景分割方面取得了最先进的结果，并在 ICCV-2021 BMTT 挑战赛中获得了第一名。
depth-aware video panoptic segmentationpolyphonicformervision transformerdepth estimationquery-based learning
发现论文，激发创造
  • PanopticDepth: 一个统一的深度感知全景分割框架

    本文提出了一种深度感知全景分割 (DPS) 的统一框架，该框架通过应用动态卷积技术来解决全景分割和深度预测任务之间的互补关系，从而实现对单张图像进行实例级语义重建，通过实例级深度估计方案，为辅助监督深度学习而添加额外的实例级深度提示，实验结果表明该方法具有实用性和前景。

    Jun, 2022

  • ViP-DeepLab：深入学习基于深度感知的全景视频分割的视觉感知

    ViP-DeepLab 是一种联合模型，尝试解决视觉中长期存在且具有挑战性的逆投影问题。该模型通过联合执行单眼深度估计和视频全景分割来处理该问题，并提供每个点的实例级语义解释。在子任务中，ViP-DeepLab 也取得了最先进的结果，在 Cityscapes-VPS 中超越以前的方法 5.1％ VPQ，在 KITTI 单眼深度估计基准测试中排名第一，在 KITTI MOTS 中排名第一。

    Dec, 2020

  • 深度统一的面向深度感知全景分割与双向引导学习

    深度感知全景分割是计算机视觉中的新兴话题，结合了语义和几何理解，以实现更稳健的场景解释。我们提出了一种深度统一框架，用于深度感知全景分割，通过相同的对象查询以分段方式执行联合分割和深度估计。为了缩小两个任务之间的差距，我们进一步设计了一种几何查询增强方法，利用潜在表示将场景几何集成到对象查询中。此外，我们提出了一种双向引导学习方法，通过利用它们的相互关系来促进跨任务特征学习。我们的方法在 Cityscapes-DVPS 和 SemKITTI-DVPS 数据集上树立了深度感知全景分割的最新技术水平，并且我们的引导学习方法还在不完整监督标签下提高了性能。

    Jul, 2023

  • 视频全景分割

    本文提出了一种名为 Video Panoptic Segmentation 的新型视觉识别任务，同时提出了两个视频全景数据集，以及一种 VPSNet 网络，在 VPQ 度量下，在 Cityscapes-VPS 和 VIPER 数据集上实现了最先进的结果。

    Jun, 2020

  • 2024 年 PVUW 挑战赛第二名解决方案：视频全景分割

    我们提出了一个强大的整合视频全景分割解决方案，该方案基于 DVIS ++ 框架生成初始掩模，然后添加了额外的图像语义分割模型以进一步提高语义类别的性能。最终，我们的方法在视频全景分割任务中取得了 56.36 和 57.12 的 VPQ 得分，分别在开发和测试阶段排名第二。

    Jun, 2024

  • PVUW 2024 挑战赛三等奖解决方案：视频全景分割

    通过引入综合方法，基于 DVIS++ 模型和查询式集合的补充技术，我们提出的方案在 VIPSeg 测试集上取得了 57.01 的 VPQ 分数，并在第 3 届 Pixel-level Video Understanding in the Wild Challenge 的 VPS 赛道中排名第三。

    Jun, 2024

  • PVUW Challenge 2023 比赛中的第三名解决方案：视频全景分割

    为应对在野外进行视频全景分割任务，我们提出了一种强大的综合视频全景分割解决方案，通过将视频全景分割任务视为分割目标查询任务，利用神经网络提取的视频特征来预测分割掩码，同时添加了视频语义分割和视频实例分割等额外任务进行联合训练，提高了解决方案的学习准确性和收敛速度，最终在 VIPSeg 数据集上获得了第三名的好成绩。

    Jun, 2023

  • 深度感知全景分割

    基于 RGB 图像和深度图像的全景分割的新方法；通过使用所观察场景的 3D 几何信息，减少错误合并为一个事物实例的对象数量，提高全景质量。

    Mar, 2024

  • PVUW 挑战赛 2023 年视频全景分割问题的第一名解决方案

    本文介绍了一种基于解耦策略的视频全景分割方法，该方法在开发和测试阶段分别达到了 51.4 和 53.7 的 VPQ 得分，并在第二届 PVUW 挑战赛的 VPS 赛道上排名第一。

    Jun, 2023

  • Slot-VPS：视频全景分割的面向对象表示学习

    该论文提出了 Slot-VPS 框架，使用对象中心学习的方法，将所有视频中的 panoptic 实体编码成 panoptic slots，通过 Video Panoptic Retriever 来检索和编码统一的空间 - 时间信息，实现了对视频中对象的定位、分割、区分和关联，从而实现了 Video Panoptic Segmentation 任务的端到端处理。该方法在 Cityscapes-VPS 和 VIPER 数据集上均取得了 63.7，63.3，56.2 VPQ 的最优性能。

    Dec, 2021