Dec, 2023

PAD：自监督预训练与红外图像的 Patchwise-Scale Adapter

PDF
TL;DR该研究介绍了自主学习在红外图像领域的应用，提供了一个大规模红外预训练数据集，通过对象敏感的随机 RoI 裁剪方法和面向纹理缺失的图像预处理方法解决了传统方法在红外图像上的挑战，并引入可动态学习尺度因子的分块适配器来实现预训练特征和新特征之间的灵活协调。实验证明，在三个下游任务上，该方法优于其他基线模型，仅使用了 1.23M 可预训练参数。
self-supervised learninginfrared imagespre-training datasetobject-sensitive random roi croppingpatchwise-scale adapter
发现论文，激发创造
  • 领域内自监督学习可提高遥感图像分类

    本文研究了自监督学习在遥感图像分类中的应用， 使用 ViT 模型和 iBOT 框架进行预训练可以提高模型预测性能。

    Jul, 2023

  • 重新审视预训练遥感模型基准测试：调整大小和标准化很重要

    本研究发现，将预训练图像的预处理过程直接应用于卫星和航空图像数据集中可以显著提高下游任务的性能；特别是通过这种方式，ImageNet 预训练模型成为卫星图像转移学习任务的一个有竞争力的基准。

    May, 2023

  • 自我训练引导的对抗域适应在热成像中的应用

    利用深度模型进行的大规模 RGB 图像数据集的训练已经取得了巨大成功。本文提出一种无监督领域自适应方法，该方法结合了光谱和热图像模态，通过自训练引导的对抗领域自适应方法促进了对目标领域更广义的表示学习。

    Jun, 2021

  • 基于 Transformer 的自监督预训练技术用于人员重新识别

    本篇研究旨在探讨利用数据和模型结构两个角度缩小 Transformer 预训练在 Person Re-Identification 任务中的领域差距。首先利用无标签人员图像预训练 Vision Transformer 来代替通常需要更大规模预训练数据集如 ImageNet-21K 的方法，并用 Catastrophic Forgetting Score 和 ReID-specific module 对领域差距进行缩小。最终成果是在 Market-1501 和 MSMT17 上获得了最先进的性能表现。

    Nov, 2021

  • 利用大规模无标签自然图像增强医疗 AI 模型的网络初始化

    通过在非医学图像上进行自监督学习的预训练来提高医学图像诊断准确性的研究表明，选择正确的预训练策略，尤其是自监督学习，在医学成像中对人工智能的诊断准确性具有重要意义。

    Aug, 2023

  • 基于自监督范式的有限标记样本遥感图像场景分类

    通过自监督学习机制，利用未标记的大规模遥感图像数据进行预训练，提高了远程传感器图像场景分类任务的性能，与传统的以 Imagenet 为代表的方法相比表现更佳。同时，研究了多个影响自监督学习的因素，这些研究成果对遥感领域中 SSL 技术的发展具有积极意义，有望提高大规模遥感图像处理的效率。

    Oct, 2020

  • PASS: 面向人员再识别的部位感知自监督预训练

    本文提出了一种面向个人再识别的预训练方法 PASS（Part-Aware Self-Supervised Pre-Training），可生成部分级特征提供细粒度信息，并在 Market1501 和 MSMT17 等任务上取得了最新的最优性能表现。

    Mar, 2022

  • 针对自监督视觉变换器的补丁级别表示学习

    本文设计了一种称为 SelfPatch 的简单而有效的视觉预训练任务，利用 ViT 的特性，在无需人工注释的情况下提高不同类型视觉任务的性能，通过训练神经网络对各种图像的无监督学习来实现。

    Jun, 2022

  • 基于单一示例的可见光和红外自我监督融合训练

    该研究提出了一种可见光与近红外图像融合的方法，通过使用 RGBT 传感器获取的可见图像和近红外通道的信息，利用 SSIM 损失和边缘保护等技术进行融合，并在实验证明相比其他方法，该方法在多光谱融合方面取得了更好的结果。

    Jul, 2023

  • 学习表示引导的扩散模型用于大规模图像生成

    该研究介绍了一种使用自我监督学习嵌入条件的扩散模型来生成高质量的病理学和卫星图像的方法。通过从自我监督学习表示中提取嵌入，可以生成大型图像，并通过生成变化的真实图像加强下游分类器的准确性。此方法在训练过程中表现出鲁棒性和普遍性，对于不同数据集的图像生成同样有效。

    Dec, 2023