Oct, 2023

GPCR-BERT：使用蛋白质语言模型解释 G 蛋白偶联受体的连续设计

PDF
TL;DR本研究使用 Transformers 和 Large Language Models (LLMs) 开发了 GPCR-BERT 模型，用于理解 G 蛋白偶联受体 (GPCRs) 的顺序设计，揭示了氨基酸序列、配体选择性和构象模体之间的关系，并通过对模型的注意权重和隐藏状态的解释，实现了在掩蔽氨基酸类型方面的精确预测，同时分析了三维结构中的高阶相互作用。
transformerslarge language modelsgpcr-bert modelg protein-coupled receptorsamino acid sequence
发现论文，激发创造
  • 使用长短时记忆模型预测 GPCR 分子动力学中 3D 氨基酸位置

    本研究评估了长短时记忆网络 （LSTM）学习和预测受体的分子动态轨迹的能力。实验表明，该方法在分析 G 蛋白偶联受体分子动态时表现出强大的性能，可用于药物预测及蛋白质结构分析等领域。

    Jun, 2022

  • 利用全局生成模型探索蛋白质序列空间

    该研究总结了在蛋白质研究中使用语言模型的应用，包括设计新型人工蛋白质、使用非 Transformer 结构以及应用于定向进化方面。这些成果已经快速提升了蛋白质研究的发展和性能。

    May, 2023

  • 应用生成预训练自回归转换器图神经网络分析和发现新型蛋白质

    利用基于语言模型的灵活深度学习策略，基于一个完全基于提示的模型，将 transformer 和图卷积架构集成到因果多头图机制中，实现一个生成预训练模型，用于预测蛋白质的二级结构内容、蛋白质可溶性和蛋白质测序等任务，并可用于设计具有这些特性的蛋白质，这个模型展现了多任务和协同作用的应用价值。

    May, 2023

  • T 细胞受体表征的对比学习

    通过简单的对比编码 T 细胞受体（TCR）的主要序列，提出了一种名为 SCEPTR 的 TCR 语言模型，它能够进行高效的数据转移学习，并且通过独特的预训练策略结合自对比学习和掩码语言建模的方法，取得了最先进的性能，从而解码了 TCR 特异性规则。

    Jun, 2024

  • ProtTrans：通过自监督深度学习与高性能计算攻克生命密码的语言

    通过训练两个自回归模型和四个自编码器模型，使用生物信息数据培训出来的语言模型（Language Models）能够在低推断开销下完成新的前沿预测，例如使用蛋白 LM - 嵌入 (ProtT5) 能够在无需使用进化信息的情况下，成功地进行氨基酸序列每残基预测，并出现在这个 https URL。

    Jul, 2020

  • 通过编码器 - 解码器语言模型有条件生成成对抗体链序列

    pAbT5 是第一个用于蛋白质 - 蛋白质相互作用的编码器 - 解码器 LM，其通过使用 T5-based 架构对抗体链配对进行正向和逆向翻译，可以准确地反映链配对。

    Jan, 2023

  • 赋予蛋白质语言模型结构知识

    利用蛋白质结构数据提升蛋白质语言模型的新框架，通过整合结构信息和结构提取模块，优化了预训练语言模型的自注意机制，此框架在蛋白质功能预测上表现优越，为蛋白质建模提供更有效和高效的方法。

    Jan, 2024

  • 蛋白复合物不变嵌入与交叉门多层感知器是一种一次性抗体设计工具

    本文提出了一种深度生成模型，可在一次试验中协同设计抗体 CDR 的一维序列和三维结构，并通过广泛实验证明其性能优于现有方法。

    Apr, 2023

  • Tranception: 利用自回归转换器和推断时检索进行蛋白质适应性预测

    介绍了使用 Tranception 模型和 ProteinGym 数据集实现蛋白质序列的健康预测的方法。

    May, 2022

  • 用于抗体序列 - 结构协同设计的迭代精化图神经网络

    本文提出了一种基于生成模型的方法来自动设计具有增强的结合特异性或中和能力的抗体的 CDRs。该方法系统地利用了序列和三维结构之间的关系，并在设计中具有更高的效率和灵活性，最终成功设计出能够中和 SARS-CoV-2 病毒的抗体。

    Oct, 2021