ICLROct, 2023
少量数据目标检测的对比预训练建议
Proposal-Contrastive Pretraining for Object Detection from Fewer Data
Quentin Bouniot, Romaric Audigier, Angélique Loesch, Amaury Habrard
TL;DR使用预训练的深度神经网络在少量可用数据中实现强大结果，针对密集问题如物体检测，学习图像中的局部信息而非全局信息被证明更有效。为了解决这个问题，我们对最近在社区中表现良好且具有生成多样化目标提案特性的基于 Transformer 的物体检测器感兴趣，在此工作中，我们提出了一种利用该特性的新型无监督整体预训练方法 ProSeCo，使用检测器生成的大量目标提案进行对比学习，从而允许使用较小的批量大小，并结合物体级特征学习图像中的局部信息。为了改善对比损失的有效性，在选择正样本时引入物体位置信息以考虑多个重叠的目标提案。当重用预训练的骨干网络时，我们主张在骨干网络和检测头之间一致学习局部信息。我们证明了我们的方法在使用较少数据进行物体检测的无监督预训练中优于现有方法，在标准和新颖的基准测试中表现出色。