Oct, 2022

TransEDRP：具有嵌入边缘的双变压器模型，用于药物反应预测

PDF
TL;DR提出了用于药物反应预测的解耦双变压器结构，用于表示细胞系基因组和药品的结构，以解决 GNN 方法只能提取节点信息，传统 transformer 方法无法提取与节点之间的化学键相关的信息，以及 CNN 方法无法全局感知序列信息等问题，并在所有评估指标中优于当前主流方法。
gnn-based methodsdrug response predictiontransformermolecular graphdecoupled dual transformer
发现论文，激发创造
  • ETDock: 一种新颖的蛋白质 - 配体对接等变换 Transformer 模型

    应用等变性转换神经网络模型，利用蛋白质和配体的 3D 空间信息以及配体的图级特征进行融合和学习，实现了蛋白质 - 配体对接位姿的预测，并通过迭代优化生成精炼的配体位姿，实验证明该模型具有最先进的性能。

    Oct, 2023

  • 一种 Transformer 模型可以理解 2D 和 3D 分子数据

    本文提出了 Transformer-M 模型，可以对 2D 和 3D 分子结构信息进行编码和语义表示，通过合适的监督信号训练获得对不同数据格式的知识，从而能够广泛应用于不同的任务。

    Oct, 2022

  • 基于曲率的变换器用于分子性质预测

    基于曲率的 Transformer 通过引入离散化的里奇曲率来改进图变换器神经网络模型对分子图数据中的结构信息的提取能力，通过将图的曲率信息作为位置编码添加到节点特征中进行注意力计算，这种方法能够在不改变原有网络架构的情况下引入图数据的曲率信息，且在 PCQM4M-LST、MoleculeNet 等化学分子数据集上与 Uni-Mol、Graphormer 等模型进行对比实验，结果表明该方法能够达到最先进的效果，证明离散化的里奇曲率在描述分子数据图的局部几何的同时也反映了其结构和功能关系。

    Jul, 2023

  • 基于 Transformer 的深度网络用于预测癌症药物反应

    本研究提出了一种基于 transformer 的神经网络 TCR 来预测抗癌药物的反应，利用注意力机制学习了药物子结构和分子签名之间的相互作用，同时设计了双重损失函数和交叉采样策略以提高预测能力，实验结果表明 TCR 优于其他方法，在独立的体外实验和体内实验中表现出显著的预测效果，具有癌症药物再利用和精准肿瘤治疗的潜在价值。

    Jul, 2022

  • 个性化药物识别器：利用辅助信息的癌症治疗推荐系统

    癌症个性化治疗是全球面临的一个挑战，在临床和经济上都具有不断增长的负担。为了有效利用临床诊断面板中的基因组分析，需要准确的药物反应预测模型，本研究提出了一种基于转换器的创新方法，超越了基准数据上最先进的药物反应预测模型的性能，同时还设计了一种治疗建议系统，并正在新加坡国立大学医院进行临床试验评估。

    Feb, 2024

  • 基于分子几何的 Transformer 模型，用于准确建模三维原子系统

    我们提出了一种新颖的 Transformer 架构 Moleformer，它将节点（原子）和边（键和非键原子对）作为输入，并使用旋转不变性和平移不变性的几何感知空间编码来模拟它们之间的相互作用。我们在 OC20 和 QM9 数据集上进行了基准测试，Moleformer 在 OC20 的初始状态到松弛能量预测方面实现了最先进的水平，并且在预测量子化学性质方面与其他 Transformer 和图神经网络方法相比非常有竞争力，证明了所提出的几何感知空间编码在 Moleformer 中的有效性。

    Feb, 2023

  • 释放 Transformer 在图形任务中的能力

    本研究提出了一种名为 DET 的新型 Transformer 架构，采用结构编码器聚合连接邻居的信息和语义编码器聚焦于远距离节点，通过自监督训练寻找所需的远距离邻居，比使用多跳邻居的方法更为优越。实验结果表明，DET 在处理分子、网络和各种规模的知识图谱方面比对应的最新方法具有更优越的性能表现。

    Feb, 2022

  • TransCDR: 通过迁移学习和多模态数据融合增强癌症药物反应预测的广泛适用性的深度学习模型

    精准医学中，准确且稳健的药物反应预测至关重要。我们引入 TransCDR，利用迁移学习学习药物表示，并通过自注意机制融合药物和细胞系的多模态特征，预测细胞系对药物的 IC50 值或敏感状态。TransCDR 在预测上显示出比 8 种最先进模型更好的泛化能力，通过在不同情景下从头训练药物编码器的 5 个变体（即 RNN 和 AttentiveFP），TransCDR 的表现也超越其它模型。Extended Connectivity Fingerprint 和基因突变是多种药物标记和组学特征中最关键的贡献因素。此外，基于注意力的融合模块进一步增强了 TransCDR 的预测性能。在 GDSC 数据集上训练的 TransCDR 在外部测试集 CCLE 上表现出强大的预测性能。同时，我们还通过将 TCGA 的 7,675 名患者分类为药物敏感组和药物耐药组，进行基因集富集分析来研究药物反应的生物机制。TransCDR 是一种强大的工具，在药物反应预测中具有重要潜力。源代码和数据可在此 URL 中访问。

    Nov, 2023

  • 朝着更具归纳性的药物重用方法的世界迈进

    该研究通过对当前的药物靶标相互作用预测数据集和预测模型进行深入评估，发现基于推导模型的药物靶标相互作用预测方法缺乏泛化性，已有的评估方法导致性能夸大，因此不适用于药物再利用方法。鉴于此，提出了一种新颖的生物学驱动的负边缘子采样策略，并通过体外验证表明新发现的相互作用确实是真实的。该研究为未来公平的基准测试和稳健的模型设计奠定了基础。所有生成的资源和工具都作为 Python 软件包公开可用。

    Nov, 2023

  • 边缘变压器的系统化概括

    提出了一种新型边缘 Transformer 模型，实现了自然语言理解中的系统化概括，并在关系推理、语义解析和依赖解析等几个设置中优于 Relation-aware、Universal 和传统 Transformer 基线模型。

    Dec, 2021