Mar, 2024

从蛋白质语言模型中恢复高阶相互作用

PDF
TL;DR基于 ESM2 的蛋白质语言模型的傅里叶分析发现了在稀疏 - 崎岖平面上占据主导地位的三个区域，其中两个区域更适合进行稀疏傅里叶变换，通过使用仅 700 万个 ESM2 样本中的相互作用可以在更稀疏的区域获得 0.72 的 R^2，而在更密集的区域可以获得 0.66 的 R^2，将计算时间减少了一万五千倍。
发现论文，激发创造
  • 超越 ESM2: 借助高效聚类的图增强蛋白质序列建模

    本研究使用 ESM2 最先进的蛋白质语言模型，并结合蛋白质家族分类和基于社区传播的聚类算法，改善了全局蛋白质表示和局部氨基酸准确性，从而大幅提升蛋白质表达质量，并在多个下游实验中取得了最先进的结果。

    Apr, 2024

  • ProtTrans：通过自监督深度学习与高性能计算攻克生命密码的语言

    通过训练两个自回归模型和四个自编码器模型，使用生物信息数据培训出来的语言模型（Language Models）能够在低推断开销下完成新的前沿预测，例如使用蛋白 LM - 嵌入 (ProtT5) 能够在无需使用进化信息的情况下，成功地进行氨基酸序列每残基预测，并出现在这个 https URL。

    Jul, 2020

  • 蛋白质中联系预测的改进：使用拟似似然函数推断 Potts 模型

    在结构生物学中，从蛋白质的序列推断出其三维结构是一个开放性问题，本文采用伪最大似然方法应用于描述统计学特性的 Potts 模型，较现有的基于标准平均场技术的直接耦合分析方法能够更好地区分直接和间接相互作用，并成功地验证了该方法的效果。

    Nov, 2012

  • 使用掩码语言建模配对相互作用蛋白序列

    从蛋白质序列中预测相互作用的蛋白质，并使用蛋白质语言模型的先进方法进行匹配。

    Aug, 2023

  • 利用大型语言模型高效预测单点突变对蛋白质稳定性的影响

    利用大型语言模型（LLM），我们引入了一种 ESM 辅助高效方法，将蛋白质序列和结构特征整合在一起，以预测单点突变引起的蛋白质热稳定性变化，并且我们设计了一个经过细致筛选的数据集，以避免数据泄漏，以便更公平地进行模型比较。

    Dec, 2023

  • 深度生成模型捕捉突变效应的遗传变异

    提出了一种基于深度学习的模型 DeepSequence，可以预测基因突变对分子属性的影响，具有非线性的高阶约束，是一种能够应用于有关蛋白质和 RNA 相互作用的普适模型。

    Dec, 2017

  • 基于 K-mer 的蛋白质相互作用预测方法改进：混沌游戏表示法、深度学习和降低表示偏差

    通过提取非冗余的匹配数据进行无偏机器学习，开发了能够学习和预测蛋白质编码基因的混沌游戏表示中蛋白质 - 蛋白质相互作用的卷积神经网络模型。

    Oct, 2023

  • 赋予蛋白质语言模型结构知识

    利用蛋白质结构数据提升蛋白质语言模型的新框架，通过整合结构信息和结构提取模块，优化了预训练语言模型的自注意机制，此框架在蛋白质功能预测上表现优越，为蛋白质建模提供更有效和高效的方法。

    Jan, 2024

  • 面向蛋白接口预测的高阶交互深度学习

    通过引入 2D dense prediction 方法和序列建模、配对交互等技术，我们提出了一种新的深度神经网络模型，能够通过图神经网络学习节点特征，并预测蛋白质界面的预测性能，并在实验中进行了验证并得出了可靠的结果。

    Jul, 2020

  • 序列协同演化揭示蛋白质复合物的 3D 接触和结构

    该研究表明，通过分析蛋白质序列之间的相关进化序列变化，可以准确识别与蛋白质配对的残基，从而确定蛋白质复合物的三维结构，可用于残基分辨率下的互作预测，并且随着序列数据库的增长，这种方法可以扩展到基因组范围内蛋白质相互作用网络的阐明和互作预测。

    May, 2014