ICCVAug, 2023

利用地球观测数据进行半监督学习的多任务超图

PDF
TL;DR通过引入强大的多任务超图模型，利用复杂的依赖关系，构建每个节点作为一个任务、超图中到达给定任务的不同路径成为无监督教师的多任务超图，并能够适应渐变的数据分布转变，可靠地补充缺失的地球观测数据，从而实现对多任务的半监督学习的改进。
发现论文，激发创造
  • 自我监督的超图用于学习多个世界解释

    使用多任务超图的关系，通过一种利用标记小集合学习多个场景表示的方法，同时也展示了如何在不使用任何额外标记数据的情况下利用超图来改进强大的预训练 VisTransformer 模型。

    Aug, 2023

  • 神经图一致的多任务场景理解半监督学习

    本研究提出了一种基于图神经网络的半监督学习方法，通过多次无监督的一致性优化，利用集成学习策略在多个视觉场景解释中实现多任务同时学习的高精度预测表现。

    Oct, 2020

  • 多自监督辅助任务的基于图的神经网络模型

    该论文提出了三个新的自监督辅助任务，以多任务的方式训练基于图的神经网络模型，使用图卷积网络作为构建块，在标准半监督图分类任务上实现了有竞争力的结果。

    Nov, 2020

  • MMEarth: 多模态预测任务研究地理空间表示学习

    利用未标记的地球观测数据创建多模态预训练数据集，通过多模态预训练任务，提出了改进的 ConvNeXt V2 架构的 Multi-Pretext Masked Autoencoder (MP-MAE) 方法，证明多模态预训练可以显著提高图像分类和语义分割的性能，以及标签和参数的效率。

    May, 2024

  • 一个层次化多任务方法用于从语义任务中学习嵌入

    本研究介绍了一种使用多任务学习方式训练的分层模型，在一组精心选择的语义任务上取得了最新领先的结果，包括命名实体识别、实体提及检测和关系提取，无需手工设计特征或使用外部 NLP 工具，同时在模型的底层引入归纳偏差，促使模型产生共享语义表示。

    Nov, 2018

  • OmniSat：地球观测自监督模态融合

    利用地球观测数据的多模态性质，提出了一种无监督多模态学习方法 OmniSat，可用于改进森林学、土地覆盖分类和农作物映射等任务，并在半监督和全监督设置下获得更好的性能。

    Apr, 2024

  • 多任务图自编码器

    本论文研究了与图表示学习相关的两个基本任务：链接预测和节点分类，并提出了一种新的自编码器架构，能够学习本地图结构和可用节点特征的联合表示，用于同时进行无监督链接预测和半监督节点分类的多任务学习。

    Nov, 2018

  • 利用元路径进行异构图自监督辅助学习

    本文提出了一种基于元路径的自监督辅助学习方法来学习异构图上的图神经网络，通过预测元路径作为辅助任务来进行主任务的学习，可以自动平衡辅助任务的有效组合以提高主任务性能，实验证明该方法可以在异构图上改进链接预测和节点分类的性能。

    Jul, 2020

  • 超图增强的双半监督图分类

    本文研究半监督图分类，在有限标记图和丰富未标记图的场景下准确预测图的类别。通过提出一个名为 HEAL 的超图增强的 DuAL 框架，该框架分别从超图和线图的角度捕捉图的语义，以解决现有图神经网络对大量昂贵标记图的需求以及对节点之间高阶依赖关系建模能力不足的问题。在设计了适应性学习复杂节点依赖关系的超图结构学习的基础上，利用学习到的超图引入线图来捕捉超边之间的交互，从而更好地挖掘潜在的语义结构，并开发了关系一致性学习来促进两个分支之间的知识传递和更好的相互引导。对真实世界的图数据集进行的广泛实验验证了所提方法相对于现有最先进方法的有效性。

    May, 2024

  • 关系多任务学习：建模数据和任务之间的关系

    本文提出了一种创新的关系多任务学习框架 MetaLink，通过建立连接数据点和任务的知识图谱，利用来自辅助任务的数据点标签预测新任务中的结果，可以在不同领域的 6 个基准数据集上成功地利用不同任务之间的关系，在提出的关系多任务学习设置下，可以优于现有方法，ROC AUC 性能提高了高达 27%。

    Mar, 2023