Aug, 2023

基于图和 Transformer 特征的协同融合提升分子属性预测

PDF
TL;DR分子性质预测的研究中，我们提出了 SYN-FUSION，这是一种结合了来自图神经网络和 Transformer 的预训练特征的新方法，它提供了综合的分子表示，捕捉了全局分子结构和各个原子特征，实验证明其在 MoleculeNet 基准数据集上的卓越性能，优于以前的模型，在 5 个分类数据集和 6 个回归数据集中有优势，并且与其他 Graph-Transformer 模型相比，我们的方法在性能方面与其不相上下，进一步的分析验证了 SYN-FUSION 的有效性，消融实验无疑表明 SYN-FUSION 的协同效应超过了其各个模型组成部分和其集成模型，在预测分子性质方面有实质性的改进。
molecular property predictiongraph neural networkstransformerssyn-fusiondrug discovery
发现论文，激发创造
  • 通过潜在空间融合提高分子属性预测

    本文提出了一种多视图方法，将来自最先进化学模型的潜在空间进行结合，其中使用了基于 MHG-GNN 的嵌入（将分子结构表示为图形）和根植于化学语言的 MoLFormer 嵌入。我们通过在六个基准数据集上评估该方法，证明了我们所提出的多视图方法在预测临床试验药物毒性和抑制 HIV 复制等复杂任务上，优于现有的最先进方法，包括在 11 亿个分子上进行训练的 MoLFormer-XL。研究结果突显了潜在空间融合和特征整合在推进分子属性预测方面的潜力。

    Oct, 2023

  • 化学语言与分子图在多模态融合深度学习中的整合，用于药物性质预测

    准确预测分子性质是药物发现中的一个具有挑战性但必不可少的任务。最近，多模态深度学习方法成功应用于分子性质预测，以克服传统单模态学习方法的局限性并提升模型在准确性、可靠性和抗噪性方面的表现。

    Dec, 2023

  • 句法融合：通过多树图整合提升方面级情感分析

    合成融合方法 SynthFusion 可以通过多个解析器的预测来改善图神经网络在情感分类方面的性能，同时减少了过度参数化和过拟合的风险。

    Nov, 2023

  • 基于几何感知的线图变换预训练用于分子性质预测

    本文提出了 Geometry-aware line graph transformer (Galformer) 预训练方法，采用 2D 和 3D 模态增强分子表示学习，通过对无标签的分子进行两个互补的预训练任务，提取出 2D 和 3D 知识，并在性质预测方面表现出优越性能。

    Sep, 2023

  • 多视图图神经网络用于分子性质预测

    使用多视图神经网络和交叉依赖的消息传递机制，以预测分子性质为目的，构建了一种能够同时利用节点（原子）和边（化学键）信息的表达力强的模型，并在多个基准测试中表现出优异性能。

    May, 2020

  • 利用辅助学习和特定任务适应性增强分子性质预测

    既训练的图神经网络（Pretrained Graph Neural Networks）广泛应用于各种分子属性预测任务，但由于传统的精调对目标任务的训练会导致较差的泛化性能，因此本文探讨了通过与多个辅助任务共同训练的方式来适应目标任务的预训练图神经网络。实验证明了我们提出的方法的有效性，在最先进的预训练图神经网络上的改进效果达到了 7.7％，这表明在分子属性预测中，将辅助任务与目标任务的精调结合起来可以有效提高预训练图神经网络的泛化能力。

    Jan, 2024

  • 基于模式图的分子属性预测自监督学习

    本研究介绍了一种基于图形的分子数据的自我监督学习的新型方法，称为基于图案的图形自我监督学习（MGSSL）。我们提出了一种依赖于自生成基元的新的预训练框架来捕获分子图中的丰富信息，该框架可以在宽度优先或深度优先的方式下执行，并在不同的下游基准任务上进行了广泛实验，表明我们的方法优于所有最先进的基线。

    Oct, 2021

  • 应用于分子性质预测的图神经网络上的多任务学习

    提出了一种基于图神经网络模型的最新、高效的多任务预测方法，结果表明，多任务学习可以提高模型性能，特别是数据点较少的数据集可以不需要数据增强，便能获得较好的效果，并且能显著减小模型的方差。

    Oct, 2019

  • ChemBERTa: 面向分子性质预测的大规模自监督预训练

    这项工作通过 ChemBERTa 模型对分子性质预测任务中的 transformers 进行了系统评估，结果表明 transformers 在分子表示学习和性质预测方面具有很大的发展潜力，同时我们为大规模自监督预训练提供了一份 77M SMILES 的数据集。

    Oct, 2020

  • 大规模分子数据上的自监督图变换器

    研究如何通过图神经网络（GNN）和自我监督学习来进行分子表征学习，并设计了一个名为 GROVER 的框架，通过预训练和任务特定的微调，达到较高的分子性质预测准确性。

    Jun, 2020