ICLRJun, 2021

自动化自监督图学习

PDF
TL;DRGraph self-supervised learning can be improved by leveraging multiple pretext tasks through the AutoSSL framework, which uses homophily as guidance and significantly boosts the performance on downstream tasks.
graph self-supervised learningpretext tasksautossl frameworkhomophilydownstream tasks
发现论文，激发创造
  • 图像自监督学习：综述

    本文综述了基于自监督学习技术在图数据中的应用，提出了一个统一的数学框架，并将这些方法根据预文本任务的目标分为四类，并描述了在各个研究领域中的应用及所采用的数据集，评估基准，性能比较和开源图形 SSL 代码。

    Feb, 2021

  • 图上自监督学习：深入解析和新方向

    本文旨在探究无监督自我监督学习在图神经网络中的应用，通过多个实验任务深入理解 SSL 在 GNNs 中的表现，研究了该方法何时、为什么以及哪些策略下的效果最佳，提出了新的 SelfTask 方向来创建先进的预训练任务，并在各种真实世界数据集上实现了最先进的性能。

    Jun, 2020

  • 多任务自监督图神经网络实现更强的任务泛化

    该研究介绍了一种名为 PARETOGNN 的自监督多任务学习框架，利用多个不同的哲学观点的预文本任务监督自我学习，从而在进行节点表示学习和其他后续任务时产生最佳绩效。

    Oct, 2022

  • 图上自监督学习：对比、生成或预测

    本文介绍了在图形数据上进行自监督学习的方法，并将其分为对比、生成和预测三种类型，同时对常用数据集、指标、算法进行了总结，并讨论了未来研究方向。

    May, 2021

  • 通过从多个自监督学习预文本中有选择性地捕获互补知识来学习下游任务

    本文提出一项新方案，即利用注意机制自适应地挑选适合任务的表示，同时在信息论的基础上理论证明从多个预训练任务聚集表示比从单一预训练任务获取表示更为有效，大量实验表明，该方案明显优于当前流行的预文本匹配方法，能有效地收集知识和减轻下游任务中的负转移。

    Apr, 2022

  • 超越同质性的多视图图形表示学习

    该研究提出了一个多视角方法和多样化预文本任务引入的框架，即 Multi-view Graph Encoder (MVGE)，以捕捉图形中的不同信号，并在合成和现实数据集上进行了广泛实验，并显示出显着的性能改进。

    Apr, 2023

  • 多自监督辅助任务的基于图的神经网络模型

    该论文提出了三个新的自监督辅助任务，以多任务的方式训练基于图的神经网络模型，使用图卷积网络作为构建块，在标准半监督图分类任务上实现了有竞争力的结果。

    Nov, 2020

  • 通过潜在图预测的自监督表示学习

    本文提出了一种基于潜在图预测的自我监督学习框架 LaGraph，通过其理论上的自我监督上界来学习预测未观察到的潜在图。在实验中得到了相对于其他相关方法在性能上的提高和对样本减少的鲁棒性提升的证明。

    Feb, 2022

  • 每个节点都不同：动态融合自监督任务用于属性图聚类

    本文提出了一种创新的图聚类方法，名为动态融合自监督学习（DyFSS），通过动态学习不同节点的自监督学习任务的权重，并融合不同自监督学习任务的特征来提高性能。通过在五个数据集上进行广泛实验，DyFSS 在准确性指标上超过了最先进的多任务自监督学习方法，最高可达 8.66％。

    Jan, 2024

  • 混合自监督学习

    自我监督学习方法可以通过使用多个预处理任务和混合专家架构作为门控网络，来改进图像分类，使模型能够自动学习和更关注对分类最有用的增强方法。在几个场景下进行测试，并使用 Grad-CAM 和 T-SNE 分析来识别影响图像分类的重要特征并适当地区分不同的类别。

    Jul, 2023