图之道：基于多个领域对比学习的基础拓扑模型

Nov, 2023

图之道：基于多个领域对比学习的基础拓扑模型

Its All Graph To Me: Foundational Topology Models with Contrastive Learning on Multiple Domains

Alex O. Davies, Riku W. Green, Nirav S. Ajmeri, Telmo M. Silva Filho

TL;DR使用对抗式对比学习提出了一种用于多个图领域的预训练模型，通过在拓扑结构上训练模型，并在评估时包含节点标签，我们展示了该模型在各种下游任务中与基准模型、未经训练的模型和非转移模型相比，性能相等或更好，包括在评估时使用节点标签，性能始终优于单个领域或非预训练模型。

Abstract

representations and embeddings of graph data have been essential in many domains of research. The principle benefit of learning such

graph data representations embeddings pre-trained model adversarial contrastive learning

发现论文，激发创造

CoCo: 无监督领域自适应图分类的耦合对比框架

提出了一种名为 CoCoGRL 的新方法来解决图形神经网络在图形分类，无监督学习，域适应等领域中需要大量标记成本的问题，此方法使用图形结构在多个视图上进行对比学习。

Jun, 2023

在多领域数据集上训练的有监督对比学习所学到的表示的可迁移性

使用多领域数据集的超级对比学习模型相比使用交叉熵模型，平均在 7 个下游数据集上表现更好，结果显示其学习到的表示更具鲁棒性且可跨领域转移。

Sep, 2023

无文本多域图形预训练：走向图形基础模型

MDGPT 是一个用于图学习的多领域图预训练和适应性框架，通过多领域知识的利用来解决不同领域的图数据对齐和适应的问题，并在多个公开数据集上进行了实验验证，超越了先前的研究成果 37.9%。

May, 2024

图关系领域自适应

本文提出一种利用域图编码域相邻度的方法，将域统一 alignment 放松，以灵活的方式进行域对齐，并基于图结构推广现有的对抗学习框架，成功地将域信息自然地纳入域自适应方法，提高了现有域自适应方法在综合和真实数据集上的效果。

Feb, 2022

预训练图神经网络的策略

本文提出了一种针对图数据集的预训练策略和自监督方法，通过在节点和整个图级别上预训练表达力强的 GNN，以便 GNN 可以同时学习有用的局部和全局表示，并在多个图分类数据集上进行系统研究，发现我们的策略可避免负面转移并显着提高下游任务的泛化性能，最终达到了在分子性质预测和蛋白质功能预测方面的最先进性能。

May, 2019

域自适应图分类

通过双重对抗学习的方法，本文提出了 Dual Adversarial Graph Representation Learning（DAGRL）来探索图拓扑结构，并且减少域间差异，实验证明了该方法的有效性。

Dec, 2023

GraphControl: 为图领域迁移学习的通用图预训练模型添加条件控制

通过 GraphControl 模块和先进的图结构预训练模型，解决了在不同图中转移预训练模型到下游任务时的可迁移性和特异性之间的困境，并在目标数据集上实现了 1.4-3 倍的性能提升。

Oct, 2023

对抗训练的深度神经网络转移更佳：以图像分类为例

本文通过研究发现，针对新领域的迁移学习中，对于只有有限数据的情况下，通过对抗训练的模型相对于非对抗训练的模型具有更好的迁移性能。同时，对抗训练可以使学习到的表示偏向于保留形状而不是纹理，这影响了源模型的可迁移性，并且使用影响函数的方法发现迁移的对抗训练模型包含更多的人类可识别的语义信息，这至少部分解释了为什么对抗训练模型更实用。

Jul, 2020

跨领域图数据缩放：扩散模型案例展示

我们提出了 UniAug，这是一个建立在扩散模型之上的通用图结构增强器，通过预训练的扩散模型进行结构增强，在不同领域的图上实现了性能的持续改进，并在图数据扩展领域展示了首次示范。

Jun, 2024

AdaGraph: 通过图像统一预测和持续领域自适应

本文研究领域适应和泛化中的预测领域适应的问题，提出了一种能够通过图形利用辅助域中信息的深度学习架构，同时提出了一种简单有效的策略，能够在测试时利用流入的目标数据进行连续的领域适应，并在三个基准数据库上进行了实验证明了我们方法的价值。

Mar, 2019