Feb, 2024

RiNALMo：通用目的的 RNA 语言模型在结构预测任务上具有良好的泛化能力

PDF
TL;DRRiNALMo 是最大的 RNA 语言模型，能够从 RNA 序列中提取隐藏的知识并捕捉内在的结构信息，在多个下游任务中取得了 state-of-the-art 的结果，并且具有通用能力能够克服其他深度学习方法在未见过的 RNA 家族上泛化的能力限制。
ribonucleic acidrnalanguage modelrna sequencessecondary structure prediction
发现论文，激发创造
  • 学习设计 RNA

    提出了一种基于深度强化学习的 RNA 序列设计算法 ——LEARNA 和扩展版本 Meta-LEARNA。经实验证明，该方法在 RNA 设计方面具有新的最先进性能，且速度显著提高，同时具有较好的计算效率和普适性。

    Dec, 2018

  • 生物基础模型之间的多模态迁移学习

    我们提出了一个多模态模型，通过利用来自不同预训练模态特定编码器的信息将 DNA、RNA 和蛋白质连接起来，展示了该模型在预测多个 RNA 转录本的表达差异方面的能力，同时在多个模态之间实现了高效的知识传递，为新的多模态基因表达方法铺平了道路。

    Jun, 2024

  • BEACON：全面 RNA 任务与语言模型的基准

    介绍了首个全面的 RNA 基准测试 BEACON，包括 13 个任务，涵盖了结构分析、功能研究和工程应用，通过评估不同 RNA 理解任务的方法性能，研究了传统方法和基于语言模型的先进 RNA 基础模型，以及关键的 RNA 语言模型组件。基于发现的信息，提出了一种简单但强大的基准模型 BEACON-B，能在有限的数据和计算资源下实现出色的性能。

    Jun, 2024

  • 使用基于 Transformer 的深度学习模型来进行 RNA 二级结构预测

    讨论了 RNA 和 RNA 的二级结构及其预测的基本概念，以及机器学习技术在预测生物大分子结构中的应用，并提出了基于 ResNet 的 RNA 三级结构预测算法和打分模型。

    Apr, 2024

  • rnaglib 中基于 3D 的 RNA 功能预测工具

    通过 rnaglib，我们使用 RNA 3D 结构数据集训练监督和无监督的机器学习模型来预测功能。

    Feb, 2024

  • 用 RNA 对比学习改进您的预测

    通过对功能相似的基因组序列进行对比性学习，本研究提出了一种学习 RNA isoform 的通用表示方法，并在 RNA 半衰期和平均核糖体负载预测等下游任务上证实了其实用性。

    Oct, 2023

  • 可扩展的深度学习用于 RNA 次级结构预测

    基于轴向注意力和潜变量空间循环利用的 RNAformer 模型在 RNA 二级结构预测领域取得了突破性进展，超越了使用外部信息的方法，在 TS0 基准数据集上实现了最先进的性能，并实验证明 RNAformer 能够学习到 RNA 折叠过程的生物物理模型。

    Jul, 2023

  • 利用大规模预训练语言模型建模蛋白质

    使用大规模的语言模型，可以从蛋白质序列中准确捕捉到进化信息，并在标记层和序列层任务中取得了显着的改进。

    Aug, 2021

  • 基于结构信息的蛋白质语言模型

    通过将远程同源检测集成到蛋白质语言模型中，我们实现了将结构信息融入蛋白质语言模型，从而在蛋白质功能预测任务中提高了功能注释准确性。

    Feb, 2024

  • 利用大型语言模型预测抗菌性能

    通过使用核苷酸序列语言模型和基于 PubMed 文章的文本语言模型，我们提出了一种细调核苷酸序列语言模型和文本语言模型的方法，以及一种 LLM 基础上的数据增强技术和有效结合两个模型的集成方法。我们还提出了一种用于评估模型的基准，在药物抗性类别预测中，我们的方法表现出比核苷酸序列语言模型更好的性能。

    Jan, 2024