利用化学元素知识图谱的分子对比学习
本文介绍了一种融合领域知识的自我监督分子表示学习模型,通过在对比学习框架下显式编码领域知识,将化学领域知识融合到分子图表示中,证明这种方法可以区分具有相似化学公式但不同功能的分子。在 8 个公共数据集上进行的实验表明,该模型具有显著的有效性,相对于强竞争对手平均有 6%的绝对改进。消融实验和进一步的研究也证实了将化学领域知识纳入自我监督学习的最佳方法。
Mar, 2021
本文研究了图对比学习在生物医药领域中的应用,提出了一种利用本地和全局领域知识来辅助表示学习的框架 MoCL。使用双重对比目标学习整个模型。在不同的分子数据集上进行了评估,结果表明 MoCL 达到了最先进的性能水平。
Jun, 2021
本文介绍了 MolCLR 框架:通过图神经网络的分子对比学习,基于大规模未标记的分子数据集学习不同 iable 的表征,提供预训练和微调来有效地预测分子性质,实验结果显示该框架在分类和回归任务上显着提高了性能。
Feb, 2021
提出了一种知识图谱对比学习的框架 (KGCL),该框架通过知识图谱增强模式减少了噪声,利用交叉视图对比学习技术进一步抑制了噪声,实现了在稀疏、长尾和有噪声的知识图谱场景下的强大性能。
May, 2022
本文提出了一种基于节点的对比学习方法 NC-KGE,通过在知识图谱上构建适当的对比节点对来提升嵌入和加速训练收敛,并通过加入关系感知注意机制对生物医药关系预测任务进行了改进,实验证明 NC-KGE 在公共数据集和生物医药数据集上具有竞争力并且在预测药物组合关系方面优于其他模型。
Oct, 2023
本文提出了一种新的多层交叉视角对比学习机制 MCCLK,包含三个图视角:全局结构视角、本地合作和语义视角,在语义视角中,还提出了一个 k 最近邻(kNN)项 - 项语义图构建模块,以捕捉通常被忽略的重要项 - 项语义关系,在三个基准数据集上进行了广泛的实验,结果表明了我们的方法优于现有技术。
Apr, 2022
本文介绍了一种基于关系对称结构的知识图谱对比学习框架 KGE-SymCL,通过设计可插拔的方法将关系对称位置中的实体作为正样本用于对比学习,同时使用自监督对齐损失来使构建的样本对更加相似,实验结果表明该框架具有很好的泛化能力和优越性。
Nov, 2022
将自然语言和图形表示相结合,通过对齐神经图形表示和特性文本描述的表示,提高了下游分子属性分类任务的性能,实现了与仅以图形方式进行预训练的模型相比的 + 4.26% AUROC 的增益,并相对于最近提出的分子图 / 文本对比训练的 MoMu 模型 (Su et al. 2022) 的 + 1.54% 增益。
Jul, 2023
本文提出了一种利用 Graph Contrastive Learning 无人工标注学习图形表示的新范式,并通过对一系列基准任务和各种领域的数据集进行广泛、可控的实验,研究不同的 GCL 组件之间的相互作用,得出了一套有效 GCL 的一般特性与实现技巧。
Sep, 2021
本文提出了一种新的方法,将单个分子结构的图形表示与生物医学知识图的多领域信息相结合,利用自监督策略进行预训练,成功地应用于化学性质预测任务,取得了超过现有最先进模型的表现。
Jun, 2023