无标签自蒸馏方法在基于 SAR 的植被预测中的普适性探索

Oct, 2023

无标签自蒸馏方法在基于 SAR 的植被预测中的普适性探索

Exploring Generalisability of Self-Distillation with No Labels for SAR-Based Vegetation Prediction

Laura Martínez-Ferrer, Anna Jungbluth, Joseph A. Gallego-Mejia, Matt Allen, Francisco Dorr...

TL;DR使用两个合成孔径雷达数据集（S1GRD 或 GSSIC）在中国、Conus 和欧洲三个地区对 DINO-ViT 基于模型进行预训练，然后在较小的已标记数据集上进行微调，以预测植被百分比，并经验性地研究模型的嵌入空间与其在不同地理区域之间和对未知数据的泛化能力之间的关联。我们的研究增进了对应用于遥感的自监督模型的泛化能力的理解。

Abstract

In this work we pre-train a dino-vit based model using two Synthetic Aperture Radar datasets (S1GRD or GSSIC) across three regions (China, Conus, Europe). We fine-tune the models on smaller labeled datasets to predict vegetation percentage, and empirically study the connection between

dino-vit synthetic aperture radar datasets vegetation percentage embedding space generalizability

发现论文，激发创造

探索 DINO：合成孔径雷达图像的新特性与限制

通过使用非标记的合成孔径雷达（SAR）数据，预先训练自监督学习模型（ViT-based DINO 模型）并对其进行微调以预测高分辨率土地覆盖地图，本研究重点探究了 Self-Distillation with No Labels（DINO）算法的特征以及其在合成孔径雷达成像领域的应用，通过对 ViT 背骨网络生成的注意力图与模型的标记嵌入空间进行比较和评估，我们观察到与从头开始训练相比，预训练模型性能略有提升，并讨论了自监督学习在遥感和土地覆盖分割中的局限性和机会，除了微小的性能提高外，我们展示了 ViT 的注意力图在遥感领域具有重要的内在价值，并可能为其他算法提供有用的输入。因此，我们的工作为地球观测提供了更大更好的自监督学习模型的基础。

Oct, 2023

遥感卫星图像的领域适应自监督表示学习

本研究提出了一种新颖的域自适应范式，利用遥感卫星数据来研究对比自监督表示学习和知识转移。通过在源数据集上进行自监督对比学习的预训练，并以循环交替的方式在目标数据集上进行下游任务，该方法实现了自监督知识转移，达到了最先进的性能和可解释的表示学习。

Apr, 2023

大规模掩码自编码减少合成孔径雷达数据的标签要求

利用遥感卫星监测和缓解人为气候变化的影响在关键的干预和政策决策方面有着重要作用。合成孔径雷达 (SAR) 提供了一种强大的光学数据替代方案，通过自监督预训练方法在预测植被覆盖和土地分类关键任务上减少了标记数据需求，从而大大推进了气候变化监测的发展。

Oct, 2023

S4：自主监管跨频谱感知

利用卫星图像时间序列（SITS）的自监督预训练方法 (S4)，通过利用波段差异和地理信息进行预训练任务，从而显著降低对标记训练数据的需求，为 SITS 分割任务提供了一种有效且能使用有限标记数据的解决方案。

May, 2024

利用生成对抗网络方法人工生成大数据以改善图像分类：以 SAR 数据为例

本研究提出了一个 VHSR SAR 图片数据库，并且探讨了基于补丁的城市和城市周边区域分类。使用大型 CNN 分类模型和预训练网络来确定有效性，此外还运用生成对抗网络来生成数据测试数据对分类精度的影响。

Nov, 2017

遥感联合多模态自监督预训练：甲烷源分类应用

本文针对当前深度学习方法在计算机视觉和遥感专业任务中应用普及的情况，讨论了解决办法。结合地理位置信息，提出利用不标注数据进行自我监督预训练，探讨了联合嵌入方法在多种遥感图像模态下的应用，最终在甲烷源分类任务上获得良好的性能。

Jun, 2023

利用 Sentinel-1 SAR 数据和 AutoML 估计光学植被指数

使用合成孔径雷达（SAR）数据进行森林监测，对于解决光学数据的问题并使用机器学习估计森林的光学查找指数（VIs）表现出较好的效果，通过创建多时序和多模态数据集来进行 VI 估计，在时间和空间上与 Sentinel-1、Sentinel-2、DEM、天气和土地覆盖数据集的对齐下取得了较好的结果。

Nov, 2023

地理感知的自监督学习

本研究旨在将对比学习方法应用于地理定位的数据集上，通过利用遥感数据的时空结构设计预处理任务和构建时空正对来消除对比学习和监督学习之间的差距，并在遥感图像分类、目标检测和语义分割等任务上展示该方法的有效性，同时还表明该方法可以应用于地理标记的 ImageNet 图像并提高相应任务的性能。

Nov, 2020

多标签引导的软对比学习用于高效地球观测预训练

利用自监督预训练技术在大规模卫星数据上取得了重要进展，同时发现在地表覆盖地表利用产品等自由全球语义信息资源和自然世界的视觉基础模型等重要资源的应用能显著提高地球观测预训练的效率和效果。

May, 2024

跨领域拓展和分析自监督学习

通过对自监督学习在卫星图像等各个领域的实验发现，旋转任务是语义最具意义的，而 Jigsaw 和 Instance Discrimination 的性能很大程度上归因于它们诱导分布的特性，但在细粒度分类等任务上所有任务的表现均不佳，这些成功和失败的原因通过对预训练泛化、随机标签和隐含维度的研究进行了定量和定性的诊断。

Apr, 2020