遥感图像亿级基础模型
本研究针对遥感任务的基础模型研究进行了探讨,提出了一种包括六项分类任务和六项分割任务的基准测试以及可靠的评估方法,并报告了二十种基线模型的结果,旨在推动地球监测领域的模型进展。
Jun, 2023
基于深度学习的Prithvi地球观测模型通过高效前期训练和微调,成功实现地球观测领域多个任务的优化,证明了预训练模型在加速微调过程以及在性能上优于随机初始化权重的作用,并表明可显著减少可用标注数据的数量而不影响模型准确性。
Oct, 2023
本研究提出了首个通用遥感(RS)基础模型SpectralGPT,使用一种新颖的3D生成预训练变压器(GPT)来处理光谱RS图像,实现了在空间光谱耦合、光谱顺序模式捕捉及大规模RS大数据利用等方面的显著性能提升,对于实现地球科学领域中的光谱RS大数据应用具有巨大潜力。
Nov, 2023
本研究基于共享编码器和任务特定解码器架构,对遥感基础模型进行多任务监督预训练,包括语义分割、实例分割和旋转目标检测。随后在不同的遥感下游任务上对预训练模型进行微调,并通过14个数据集的广泛实验验证了我们模型相对于同样规模的现有模型的优越性以及与更大型的最先进模型的竞争性表现,从而验证了多任务预训练的有效性。
Mar, 2024
在预训练基于互联网规模无标签数据的基础模型(Foundation Models,FMs)中,研究增至十亿级参数规模的FMs和高性能计算(HPC)训练,以应用于地理空间图像应用中,取得了较小规模模型的显著准确率提升。
Apr, 2024
基础模型在遥感任务中的适用性取决于自监督学习任务与实际下游任务的一致性,而传统机器学习模型在某些场景下表现得更好,尤其是在纹理不适用于分类的任务中。
Apr, 2024
基于基础模型对计算机视觉、地球观测和地理空间人工智能领域的问题进行联合解决,其对于有限的标记数据表现出更好的性能,并且在下游任务中具有标签高效的特点。
Jun, 2024
本研究针对遥感领域中人工智能基础模型的应用进行了全面综述,填补了现有文献在2021年6月至2024年6月之间发布的模型分析中的空白。论文提出了新的见解,特别强调自监督学习等预训练方法对提升模型性能和稳健性的关键作用,以及为遥感任务(如场景分类和目标检测)带来的显著进展和未来研究方向。
Aug, 2024
本研究探讨了遥感领域面临的重要挑战,特别是在复杂的地球环境和多样的传感器模态下的发展需求。文章提出了遥感基础模型(RSFM)的概念,并系统地回顾了现有的研究,评估了这些模型的性能及其对地球观测任务的潜在影响,为未来研究方向提供了指导。
Oct, 2024
本研究旨在解决基础模型在遥感图像预训练中的参数数量限制,提出了一种结合高性能计算资源和高分辨率光学遥感数据的新方法。研究显示,通过数据扩展和合适的模型初始化,可以显著提升模型在图像分类、语义分割和物体检测等任务中的表现,提供了重要的实践指南以支持地理空间社区的未来研究。
Oct, 2024