Apr, 2024

在前沿上预训练十亿级地理空间基础模型

TL;DR在预训练基于互联网规模无标签数据的基础模型(Foundation Models,FMs)中,研究增至十亿级参数规模的FMs和高性能计算(HPC)训练,以应用于地理空间图像应用中,取得了较小规模模型的显著准确率提升。