Nov, 2023

ZeroPS: 高质量的跨模态知识传递技术用于零样本3D部分分割

TL;DR我们设计了一种新的零样本三维部分分割流水线ZeroPS,它可以将二维预训练基础模型的知识高质量地传递到三维点云中。我们的方法主要基于多视图对应和基础模型的提示机制之间的自然关系,并在此基础上建立桥梁。我们的流水线包括两个组件:1)自扩展组件,将单个视角的二维组扩展到三维全局级组;2)多模态标记组件,引入二维检查机制,将每个二维预测的边界框投票至最佳匹配的三维部件,并使用类非最高投票惩罚函数来优化投票矩阵。此外,还包括一种合并算法来合并部件级的三维组。在PartnetE数据集上对三个零样本分割任务进行了广泛评估,相比现有方法,取得了显著改进的最新成果(分别提高了19.6%,5.2%和4.9%)。我们的方法不需要任何训练、微调或可学习参数,并且几乎不受领域变化的影响。代码将公开发布。