ACLApr, 2021

降低各向异性感知的后期处理（LASeR）：朝向各向同性且感知丰富的表示

PDF
TL;DR研究了上下文单词表示模型的词义消歧能力，发现多数深度预训练语言模型的上下文单词表示在几何结构上高度异性化，并存在表示退化问题，提出了一种低异性度词义修正方法（LASeR），以解决上下文单词表示的表示退化问题。
contextual word representation modelsword sense disambiguationdeep pretrained language modelsrepresentation degeneration problemlaser approach
发现论文，激发创造
  • 非可见光数据综合应用研究：合成孔径雷达成像案例研究

    通过研究大规模预训练图像生成模型在非可见光领域的应用，特别以合成孔径雷达（SAR）数据为案例研究，提出了一种 2 阶段低秩自适应方法（2LoRA）和改良版本原型 LoRA（pLoRA），以生成 SAR 数据并在 SAR 分类和分割模型的训练过程中取得显著的改进效果。

    Nov, 2023

  • 利用光学雷达跨波段少样本迁移学习进行土地利用预测

    该研究探索了使用深度学习方法和分布对齐的神经网络嵌入可以提高卫星影像分析的准确性，尤其是在少量样本预测中，显著地超越了多种基线方法，其关键词有卫星图像分析，深度学习，迁移学习，Sentinel 和地区气候分区。

    Dec, 2022

  • 使用增强视觉 Transformer 进行图像重建

    本文提出了一个基于 Vision Transformer (ViT) 的图像重构框架，利用 4 种优化技术和生成对抗网络（GANs）启发的对抗性损失函数，用于图像去噪和修复，实验表明该框架在结构相似性（SSIM）方面比 U-Net 模型高出超过 3.5％，对于这两个任务，提议的增强算法进一步展示了超过基准的 extasciitilde5％SSIM 的改进。

    Jul, 2023

  • 远程感知的传感器间自我监督训练与校准

    我们介绍了 “X-STARS” 的远程感知数据的跨传感器自监督训练和对齐方法，通过设计多传感器对齐稠密损失（MSAD）来对齐不同分辨率的传感器所表示的数据，从而提高模型在各种数据可用性和分辨率条件下的性能。

    May, 2024

  • 高分辨率遥感图像变化检测的轻量级结构感知 Transformer 网络

    为了解决 Transformer 网络在遥感图片变化检测中可能存在的问题，本文提出了一种轻量级结构感知 Transformer（LSAT）网络，有效地提高了 RS 图片 CD 的特征表达能力，并在各种 VHR RS 图片 CD 方法中实现了更好的检测精度和计算成本平衡。

    Jun, 2023

  • 基于知识引导的预测架构的 SAR ATR 自监督学习

    通过使用本文提出的具有知识引导预测架构，通过预测未见上下文的多尺度 SAR 特征表示，将传统 SAR 领域特征提取与最先进的可扩展自监督学习相结合，以准确的广义特征表示进行 SAR 目标识别，这一方法在各种下游数据集上验证成功，并在 SAR 目标识别中实现了一致的性能提升。

    Nov, 2023

  • 大规模掩码自编码减少合成孔径雷达数据的标签要求

    利用遥感卫星监测和缓解人为气候变化的影响在关键的干预和政策决策方面有着重要作用。合成孔径雷达 (SAR) 提供了一种强大的光学数据替代方案，通过自监督预训练方法在预测植被覆盖和土地分类关键任务上减少了标记数据需求，从而大大推进了气候变化监测的发展。

    Oct, 2023

  • 遥感表示学习：一种无监督传感器融合方法

    本文提出了一种新的自监督训练方法，利用来自多个传感器的共同数据来学习每种可能的组合的有用表示，该方法在遥感分类任务中优于全监督 ImageNet 权重，并随着越来越多的传感器融合而改善。

    Aug, 2021

  • Bi-LORA: 一种综合图像检测的视觉语言方法

    该研究介绍了一种创新方法 Bi-LORA，利用视觉语言模型与低秩适应技术相结合，将二分类问题重新构建为图像字幕任务，以提高对未知模型生成图像的合成图像检测精度。实验证明该方法在检测合成图像上具有 93.41% 的平均准确率。

    Apr, 2024

  • 半监督 SAR ATR 框架中的转导辅助分割

    基于卷积神经网络的合成孔径雷达自动目标识别的半监督框架，通过辅助分割和信息残差损失的训练，利用少量标注样本和未标注样本进行训练来提高识别性能。在 MSTAR 数据集上的实验证明了该方法在少样本学习中的有效性。

    Aug, 2023