Jun, 2022

探索基于进化感知和无进化信息的蛋白质语言模型作为蛋白质功能预测器

PDF
TL;DR本文研究探讨了 ESM-1b、MSA-Transformer 和 Evoformer 等三种常用蛋白质语言模型的表征能力，重点关注 Evoformer 在蛋白功能预测方面的表现，旨在回答三个关键问题：（i）AlphaFold 中的 Evoformer 能否产生适合预测蛋白功能的表征？（ii）如果可以，Evoformer 能否取代 ESM-1b 和 MSA-Transformer？（iii）这些 PLMs 在多大程度上依赖于与进化有关的蛋白数据？在这方面，它们是否互补？通过实证研究和新的见解和结论进行比较。附有完整的代码和数据集，可供复现。
protein language modelsalphafoldevoformerprotein function predictionstructural biology
发现论文，激发创造
  • HelixFold-Single: 使用蛋白语言模型作为替代品进行无多序列比对蛋白质结构预测

    本研究提出了一种新的蛋白质结构预测方法 ——HelixFold-Single，它基于大规模蛋白质语言模型，将原始序列代替同源序列用于学习蛋白质序列的共同进化信息，并结合 AlphaFold2 的关键组件预测蛋白质原子的三维坐标，其在 CASP14 和 CAMEO 数据集中准确度表现良好，同时能够节省大量的计算时间。

    Jul, 2022

  • 蛋白质结构预测的精确折叠景观的少样本学习

    使用 EvoGen 元生成模型，结合 AlphaFold2 模型，使得利用少量多序列比对（MSA）系统的性能得到提高，从而精准低数据的蛋白质结构预测。

    Aug, 2022

  • AlphaFold 与流匹配相遇：生成蛋白质合集

    生物蛋白质的功能常依赖于动态结构集合，本研究通过开发一种基于流动的生成建模方法来学习和采样蛋白质的构象空间，利用 AlphaFold 和 ESMFold 等高精度单状态预测器进行改进，获得了名为 AlphaFlow 和 ESMFlow 的蛋白质结构的序列有条件的生成模型。在 PDB 上经过训练和评估时，我们的方法在精确性和多样性方面相比于具有 MSA 子采样的 AlphaFold 更具优势。当进一步在全原子 MD 的集合上进行训练后，我们的方法能够准确捕捉未知蛋白质的构象灵活性、位置分布和高阶集合观测量。此外，我们的方法可以使静态 PDB 结构多样化，并具有比复制的 MD 轨迹更快的收敛时间，展示了其作为昂贵的基于物理的仿真的替代品的潜力。

    Feb, 2024

  • PEvoLM：蛋白质序列演化信息语言模型

    该研究使用嵌入语言模型（ELMo）将蛋白质序列转化为数字向量表示，引入一种新颖的双向语言模型（bi-LM）以降低参数数量并使用单一路径进行预测，同时进行多任务学习以获取蛋白质序列的进化信息。

    Aug, 2023

  • 通过多序列比对改进蛋白质三级结构预测

    该研究利用语言生成模型 MSA-Augmenter 及大规模 MSA 技术，微调 AlphaFold2 蛋白质结构预测模型在缺乏同源家族数据库的情况下，生成补充性的未见过的蛋白质序列，从而提高蛋白质结构预测准确性。

    Jun, 2023

  • 使用掩码语言建模配对相互作用蛋白序列

    从蛋白质序列中预测相互作用的蛋白质，并使用蛋白质语言模型的先进方法进行匹配。

    Aug, 2023

  • 盲突变影响预测的多级蛋白质表示学习

    本文提出了一种新的预训练框架，它将用于蛋白质主体结构和三级结构的序列和几何分析器级联，模拟野生型蛋白质的自然选择并评估变体的效果，以指导遗传突变方向，实现所需特征，提出了一种新的变体影响预测方法，其预测结果在单点和深部变异方面表现良好。

    Jun, 2023

  • 蛋白质语言模型与结构预测：联系与进展

    本文系统地概述了蛋白质语言模型在蛋白质结构预测中的应用和方法，介绍了网络架构、预训练策略、常用蛋白质数据库等方面的最新进展和挑战，并展望了未来发展方向。

    Nov, 2022

  • 超越 ESM2: 借助高效聚类的图增强蛋白质序列建模

    本研究使用 ESM2 最先进的蛋白质语言模型，并结合蛋白质家族分类和基于社区传播的聚类算法，改善了全局蛋白质表示和局部氨基酸准确性，从而大幅提升蛋白质表达质量，并在多个下游实验中取得了最先进的结果。

    Apr, 2024

  • 赋予蛋白质语言模型结构知识

    利用蛋白质结构数据提升蛋白质语言模型的新框架，通过整合结构信息和结构提取模块，优化了预训练语言模型的自注意机制，此框架在蛋白质功能预测上表现优越，为蛋白质建模提供更有效和高效的方法。

    Jan, 2024