本文综述了目前最新的遥感深度学习研究进展及理论、工具和挑战,并着重讨论深度学习系统的未解决的挑战和机遇,包括数据不足、模拟物理现象的人类可理解解决方案、大数据、非传统异构数据源、光谱、空间和时间数据的深度学习架构和学习算法、迁移学习、更好的理论理解深度学习系统、高门槛和深度学习的训练和优化。
Sep, 2017
本文研究了模型参数数量增加对远程遥感领域中基础模型在旋转物体检测和语义分割等下游任务性能的影响,并通过实验验证了模型参数数量的增加可以提升模型性能和数据效率,进而提出了一种有效的基于视觉变换器进行扩展和微调的远程遥感领域的方法。
Apr, 2023
通过在多个地理空间子领域进行测试,发现在某些文本模态的地理任务中,基于任务不可知的大型语言模型可以在零样本或少样本学习设置中胜过基于任务特定的全监督模型,但是在其他涉及多种数据模态的地理任务上,现有的基础模型仍然不如基于任务特定的模型表现。因此,通过处理不同的地理数据模态,建议可能性使用能够通过地理对齐来推理各种类型的地理数据的多模态基础模型来应对地理人工智能挑战的多模态特征。
本研究针对遥感任务的基础模型研究进行了探讨,提出了一种包括六项分类任务和六项分割任务的基准测试以及可靠的评估方法,并报告了二十种基线模型的结果,旨在推动地球监测领域的模型进展。
Jun, 2023
基于深度学习的Prithvi地球观测模型通过高效前期训练和微调,成功实现地球观测领域多个任务的优化,证明了预训练模型在加速微调过程以及在性能上优于随机初始化权重的作用,并表明可显著减少可用标注数据的数量而不影响模型准确性。
Oct, 2023
SkySense是目前最大的多模态遥感基础模型,通过多种模态的时空序列输入,采用Multi-Granularity Contrastive Learning和Geo-Context Prototype Learning进行预训练学习,能灵活结合或单独使用其模块以适应各种任务,并在16个数据集上的7个任务中表现出了卓越的泛化能力,超过了18个最新的遥感基础模型。
Dec, 2023
本研究基于共享编码器和任务特定解码器架构,对遥感基础模型进行多任务监督预训练,包括语义分割、实例分割和旋转目标检测。随后在不同的遥感下游任务上对预训练模型进行微调,并通过14个数据集的广泛实验验证了我们模型相对于同样规模的现有模型的优越性以及与更大型的最先进模型的竞争性表现,从而验证了多任务预训练的有效性。
Mar, 2024
基础模型在遥感任务中的适用性取决于自监督学习任务与实际下游任务的一致性,而传统机器学习模型在某些场景下表现得更好,尤其是在纹理不适用于分类的任务中。
Apr, 2024
基于基础模型对计算机视觉、地球观测和地理空间人工智能领域的问题进行联合解决,其对于有限的标记数据表现出更好的性能,并且在下游任务中具有标签高效的特点。
Jun, 2024
本研究探讨了遥感领域面临的重要挑战,特别是在复杂的地球环境和多样的传感器模态下的发展需求。文章提出了遥感基础模型(RSFM)的概念,并系统地回顾了现有的研究,评估了这些模型的性能及其对地球观测任务的潜在影响,为未来研究方向提供了指导。
Oct, 2024