Jun, 2023

LiT-4-RSVQA: 轻量级基于 Transformer 的遥感视觉问答

PDF
TL;DR本文提出了一种基于 Transformer 轻量级架构的遥感视觉问答方法，名为 LiT-4-RSVQA，旨在有效且准确地回答针对遥感图像的自然语言问题，实验结果表明本方法可以显著减少计算资源使用并提供准确的 VQA 结果。
visual question answeringremote sensingvqa benchmark datasettransformer-based vqalit-4-rsvqa architecture
发现论文，激发创造
  • RSVQA：用于遥感数据的视觉问答

    本文介绍了一种利用自然语言提问并结合卷积神经网络（CNN）和循环神经网络（RNN）用于从遥感数据中提取高层信息的方法。使用 OpenStreetMap（OSM）查询，构建了两个包含图像 / 问题 / 答案三元组的数据集，并使用这些数据集培训和评估了模型，实现了遥感图像问答任务。

    Mar, 2020

  • 遥感中的视觉问答多模态融合变压器

    该文提出了一种多模态变压器架构，名为 VBFusion，用于弥补当前 VQA 系统融合模态间表示不足的问题，并通过对 Sentinel-2 图像进行多波段的研究使得其具备更强的描述远程感应图像内容的能力。

    Oct, 2022

  • 如何为遥感视觉问答寻找良好的图像 - 文本嵌入？

    该论文研究了三种不同的融合方法在远程遥感领域的视觉问答中的应用，并分析了与模型复杂度相关的精度提高。结果表明，采用更复杂的融合机制可以提高性能，但在实践中寻求模型复杂度和性能之间的平衡是值得的。

    Sep, 2021

  • RSAdapter: 适用于遥感视觉问答的多模型适应器

    我们提出了一种名为 RSAdapter 的新方法，它通过并行适配器和每个全连接层之后插入的额外线性转换层来提高预训练多模态模型的适应性，并降低推理成本，通过在三个 RS-VQA 数据集上的实验证明其有效性。

    Oct, 2023

  • 通过对抗训练克服遥感视觉问答中的语言偏见

    本研究提出了一种新的框架来减少 Visual Question Answering 系统中的语言偏差，具体地，在原 VQA 框架中添加了对抗分支和两个正则化器以限制训练过程中的语言偏差，并提出了一种新的性能度量方法来评估语言偏差，实验结果表明该方法简单有效。

    Jun, 2023

  • 遥感图像中鲁棒性视觉问答的多语言增强

    本文提出了一种基于对抗学习的策略，使用增强的数据集来提高遥感视觉问题回答模型的鲁棒性，并在低分辨率数据集上取得良好的表现。

    Apr, 2023

  • 遥感视觉问答中的语言偏见诅咒：空间属性、语言多样性和明确评估的作用

    遥感视觉问答（RSVQA）是通过自然语言实现人机交互，利用航空图像为大众提供了新的机会。然而，RSVQA 中的语言偏见问题往往被忽视，而这会影响模型的健壮性并导致关于模型表现的错误结论。因此，本研究旨在通过视觉盲模型、对抗性测试和数据集分析三个方面来凸显 RSVQA 中的语言偏见问题，并提出更具信息量和互补性的评估指标，力求透明地传达未来 RSVQA 方法的结果。

    Nov, 2023

  • 远程感知中的视觉问答：跨注意力与多模态信息瓶颈

    本研究提出了一种基于跨注意力的信息最大化的方法，结合 CNN-LSTM，并在两个不同分辨率的 VQA 遥感数据集上评估表现，获得了较高的准确率。

    Jun, 2023

  • 问题感知视觉变换器用于多模态推理

    QA-ViT 是一种用于多模态推理的问题感知视觉 Transformer 方法，通过将问题感知能力直接嵌入到视觉编码器中，实现动态视觉特征，并且可以有效地应用于各种多模态架构，提高对视觉和场景文本的理解能力。

    Feb, 2024

  • 高分辨率遥感图像变化检测的轻量级结构感知 Transformer 网络

    为了解决 Transformer 网络在遥感图片变化检测中可能存在的问题，本文提出了一种轻量级结构感知 Transformer（LSAT）网络，有效地提高了 RS 图片 CD 的特征表达能力，并在各种 VHR RS 图片 CD 方法中实现了更好的检测精度和计算成本平衡。

    Jun, 2023