May, 2023

利用掩模自编码器重建海表温度图像

PDF
TL;DR本文提出了一种名为 Enki 的无监督机器学习算法，该算法使用了 Vision Transformer 结合 Masked Autoencoding 来重构遮蔽像素，用以缓解云掩码对海表温度数据分析的影响。通过训练四种不同的 Enki 模型来识别和重构 LLC4320 SST 图像中的遮蔽像素，作者发现该方法具有很好的重构效果，其表现甚至超过了插值法，为未来应用提供了广阔的发展前景。
cloud maskingsea surface temperatureremote sensingmachine learningenki
发现论文，激发创造
  • 大规模掩码自编码减少合成孔径雷达数据的标签要求

    利用遥感卫星监测和缓解人为气候变化的影响在关键的干预和政策决策方面有着重要作用。合成孔径雷达 (SAR) 提供了一种强大的光学数据替代方案，通过自监督预训练方法在预测植被覆盖和土地分类关键任务上减少了标记数据需求，从而大大推进了气候变化监测的发展。

    Oct, 2023

  • 点云自监督学习的掩蔽自编码器

    本文提出一种新颖的掩码自编码点云自监督学习方案，通过划分输入点云为不规则点区块和高比例随机掩码，设计了一种基于 Transformer 的自编码器，该方案在预训练过程中高效并且在各种下游任务中具有很好的泛化能力，包括在少样本物体分类方面表现出色。

    Mar, 2022

  • 基于预训练深度神经网络的图像质量评估与掩模算法

    本研究提出了一种基于深度学习的图像质量评估算法，利用自编码器学习高质量天文图像的特征，从而实现自动评估图像质量和噪声区域的遮盖，提高数据处理效率。该算法经过两种情景的测试，证明能够有效识别点扩散函数和复杂背景所影响的区域，可用于不同的天文巡天项目中的图像质量评估，进一步提高数据处理的速度和稳定性。

    May, 2024

  • 表面遮罩自编码器：供大脑皮层成像数据的自监督

    本研究通过使用自监督学习以及具有表面网格的视觉转换器架构，构建了模型以模拟皮层结构，进而实现对皮层表面的学习。通过在较大数据集上进行预训练，可以获得强大的表示能力，用于在数据少的情景下进行微调，而在皮层表型回归任务中，预训练可以带来 26% 的性能提升和 80% 的更快收敛速度。

    Aug, 2023

  • 自监督遮蔽数字高程模型编码用于低资源下游任务

    利用自我监督学习方法，通过预训练的遮蔽自动编码器在 Digital Elevation Models 上提取建筑物和道路分割，有效利用有限的标注数据，为地表变化频繁的任务提供数据高效的学习器。

    Sep, 2023

  • 无监督异常检测和定位的自监督遮掩

    这篇论文提出了一种名为 “自监督遮盖” 的无监督异常检测和定位方法，通过随机遮盖和恢复来扩展基于重建的异常检测架构，并引入了渐进式遮盖细化方法来进一步提高检测和定位效率和效果。

    May, 2022

  • 点云自监督学习：基于三维到多视角遮蔽自编码器

    通过使用 3D 到多视图掩码自编码器，充分利用 3D 点云的多模属性，提出了一种全新的方法，这不仅丰富了模型对几何结构的理解，还利用了点云的固有多模性能，有效地改进了各种任务，包括 3D 对象分类、少样本学习、部分分割和 3D 对象检测。

    Nov, 2023

  • 多重随机掩蔽自编码器集成的鲁棒多模态半监督学习

    计算机视觉和机器学习中存在越来越多的现实世界问题，需要考虑到世界的多个解释层次（模态或视角），并学习它们的相互关系。

    Feb, 2024

  • A$^{2}$-MAE：一种基于锚点感知屏蔽自编码器的空时谱统一遥感预训练方法

    利用遥感数据构建了一个空间 - 时间 - 光谱结构化数据集（STSSD），并提出了一个新方法（A$^{2}$-MAE），通过预训练相互补充不同类型的遥感图像和地理信息来重构遮蔽补丁，实现了多种下游任务的全面改进。

    Jun, 2024

  • 提升表面异常检测的切除与恢复：基于注意力的单一确定性掩码

    表面检查中的异常检测是制造业中一项重要且具有挑战性的任务，我们提出了一种名为 Excision and Recovery（EAR）的新型重建方法，通过单一确定性掩模来屏蔽潜在的疑似缺陷区域，用于异常检测。通过实验证明，EAR 模型在异常检测性能和吞吐量方面均优于现有方法。

    Oct, 2023