May, 2019

利用对比性预编码实现高效数据图像识别

PDF
TL;DR通过对自然信号变异性更可预测的表征重新审视并改进对比性预测编码的无监督目标，可以实现数据高效的图像识别，其特征支持 ImageNet 数据集上最先进的线性分类准确性，同时可在非线性分类中使用 2-5 倍的标签，最终，这种无监督表征大大改善了 PASCAL VOC 数据集的对象检测的迁移学习。
data-efficient recognitioncontrastive predictive codingunsupervised learningimagenet datasettransfer learning
发现论文，激发创造
  • 对比预测编码的表示学习

    本研究提出了一种普适的无监督学习方法 Contrastive Predictive Coding，通过使用强大的自回归模型在潜在空间中预测未来来提取高维数据的有用表示，以此学习有用的表示并在语音，图像，文本和三维环境中的强化学习中实现了强大的表现。

    Jul, 2018

  • 对比检测的高效视觉预训练

    引入对比检测算法的自监督目标，通过在图像增强中识别物体水平特征提取富有学习信息的信号，实现高效的自监督预训练，拥有多种下游任务的领先转移精度。在 ImageNet 预训练模型表现与大型自监督系统 SEER 相当的同时，需要少至 10 倍的预训练数据量，最终该目标还能轻松应对更复杂的图像。

    Mar, 2021

  • 对比预测编码用于人类活动识别

    使用 Contrastive Predictive Coding（CPC）框架进行人体活动识别，通过对感应器数据流的长期时间结构的捕捉，得到极好的识别效果，适用于仅有少量标记数据的情况。

    Dec, 2020

  • 基于对比学习的无监督学习目标检测

    我们提出了一种通过无监督 / 自监督学习训练单阶段目标检测器的创新方法，该方法有潜力彻底改变标注过程，大大减少人工标注所需的时间和成本，并为之前难以实现的研究机会铺平了道路。与现有的主要针对分类任务的无监督学习方法不同，我们的方法承担了目标检测的独特挑战，开创了 intra-image 对比学习与 inter-image 对应的概念，能够获取目标检测所需的重要位置信息。该方法熟练地学习和表示这些位置信息，并生成信息丰富的热图。我们的结果展示了 89.2% 的卓越准确率，在计算机视觉领域的无监督目标检测领域突破性地提高了 15 倍，相比随机初始化。

    Feb, 2024

  • 对比预测编码用于异常检测

    本论文使用对比学习的方法，以 Contrastive Predictive Coding 模型为基础，通过解释模型的对比损失作为异常得分，进行异常检测和分割，取得了令人满意的结果，适用于 MVTec-AD 数据集。

    Jul, 2021

  • 通过惩罚局部预测能力学习稳健的全局表示

    本文提出了一种训练且具有鲁棒性的卷积神经网络的方法，通过惩罚较早层所学习的局部表示的预测能力，迫使网络丢弃色彩和纹理等可从局部感受野中获取的预测信号，并依靠图像的全局结构。在一系列综合性和基准领域适应任务中，我们的方法使泛化能力得到了改善。我们还引入了一个新的数据集 ImageNet-Sketch，以评估跨域传输。

    May, 2019

  • 对比学习用于标签少的语义分割

    本文提出了一种基于对比度学习的语义分割训练策略，使用像素级和标签基础对比损失的方法，能够在减少标记数据的情况下提高性能，并通过 Cityscapes 和 PASCAL VOC 2012 数据集的实验证明了该方法的有效性。

    Dec, 2020

  • 稠密预测编码的视频表示学习

    本论文介绍了自监督学习，通过视频中的 Dense Predictive Coding (DPC) 框架形成具有密集的时空块的编码，利用课程训练方式预测未来，并在 Kinetics-400 数据集上进行实验，结果表明，DPC 的自监督预训练性能超过了以前的方法，并接近于在 ImageNet 上预先训练的基线。

    Sep, 2019

  • CHIP：对比度层次图像预训练

    在有限的样本标注下，通过图像对目标对象进行少样本分类是一个任务。我们提出了一个一次性 / 少次分类模型，可以将任何未知类别的对象分类到一个相对通用的类别中，采用了基于层次对比损失的 ResNet152 分类器，基于图像嵌入所提取的特征对对象进行分类，而这些特征在训练阶段未被使用。我们在 ImageNet（ILSVRC-12）数据集的子集上进行了实验，该子集只包含用于训练我们的模型的动物类别，并创建了一组我们自己的未知类别数据集，用于评估我们训练得到的模型。我们的模型在将未知对象分类为通用类别方面得到了令人满意的结果，并对此进行了更详细的讨论。

    Oct, 2023

  • 大型图像数据集中的可解释性发现

    该研究提出了一种新方法，将新颖性检测与 CNN 图像特征相结合，用于在大型数据集中快速发现新的，有趣的，不同寻常或异常的图像，并提供可解释的解释。

    Jun, 2018