AAAIJan, 2024

基于 LLMs 的药物分子结构的碎片水平理解的实证证据

PDF
TL;DRAI 用于药物发现是近年来的研究热点，基于 SMILES 的语言模型越来越多地应用于药物分子设计。本研究探讨了语言模型是否以及如何从 1D 序列中理解化学空间结构。我们在化学语言上对 Transformer 模型进行预训练，并朝向药物设计目标进行微调，研究高频 SMILES 子字符串与分子片段的对应关系。结果表明，语言模型可以从分子片段的角度理解化学结构，并且通过微调学到的结构知识反映在模型生成的高频 SMILES 子字符串中。
ai for drug discoverysmiles-based language modelschemical spatial structuretransformer modelmolecular fragments
发现论文，激发创造
  • 将 SMILES 的语言知识融入化学语言模型

    本研究使用 SMILES 语法解析技术从 SMILES 中获取子结构的连接性和类型背景知识并将其注入转换器模型，从而提高了分子属性预测的性能。

    Apr, 2022

  • 分子发现中的语言模型

    科学语言模型在分子发现中的作用及其在药物设计、性质预测和反应化学中的优势，以及通过降低科学语言建模领域的门槛来加速化学发现，并提出结合聊天机器人界面和计算化学工具的分子设计愿景。

    Sep, 2023

  • 使用 SMILES 给 Transformer 输入时学习手性的困难

    通过研究 Transformer 模型在学习 SMILES 的化学结构上的进展与成效，结果表明 Transformer 模型学习分子的局部结构能力较强，但需要更长时间的训练才能理解整体结构和手性，这些发现有望深化化学领域中 NLP 模型的理解。

    Mar, 2023

  • SMILES Transformer: 面向低数据药物发现的预训练分子指纹

    本文介绍了一种基于 SMILES Transformer 的分子指纹预测方法，该方法在虚拟筛选和其他药物发现任务中表现出优越性，在小数据集和复杂分析环境中表现良好。

    Nov, 2019

  • SMILES 语言下的药物分类：基于药物 SMILES 字符串的文本分类方法

    将药物的 SMILES 字符串视为常规的句子，并使用文本分类方法对药物进行分类，证明了复杂问题也可以通过简单的观点解决。

    Mar, 2024

  • 巨型语言模型能够提升分子属性预测吗？

    使用 Large Language Models (LLMs) 进行零 / 少量数据量的分子分类以及利用由 LLMs 生成的文本解释作为分子表示，可以大大提高分子属性预测的精度。

    Jul, 2023

  • MolX: 使用多模态扩展增强大型语言模型在分子学习中的能力

    本研究设计和装备 MolX 作为一种多模态外部模块，通过使用特定编码器从 SMILES 字符串和 2D 分子图表示中提取细粒度特征，从而增强了大型语言模型（LLMs）在理解分子方面的能力。实验结果表明，我们提出的方法在多种分子相关任务中表现出色，包括从分子到文本的翻译和分子的逆合成，无论是否对 LLM 进行微调。

    Jun, 2024

  • DrugLLM：用於少樣品分子生成的開放式大型語言模型

    DrugLLM 是一个专门用于药物设计的大型语言模型，在训练过程中使用基于群组的分子表示（GMR）来表示分子，通过预测基于过去修饰的下一个分子来学习如何修改分子，在有限的示例基础上生成具有期望特性的新分子，并具有强大的少样本分子生成能力。

    May, 2024

  • 科学语言建模：大型语言模型在分子科学中的定量评价

    通过使用多模态基准 ChEBI-20-MM，我们评估了模型与数据模态的兼容性和知识获取，并通过模态转移概率矩阵提供了适用于任务的最合适的模态，同时引入了一种统计可解释的方法，通过局部特征过滤来发现具有上下文特定的知识映射，从而揭示了科学语言建模在分子科学中的学习机制及其推进方法的可能性。

    Feb, 2024

  • 基于多模态分子结构文本模型的文本检索和编辑

    该研究介绍了一种新的多模态分子结构 - 文本模型 MoleculeSTM，它结合学习化学结构和文本描述，以有效利用化学领域中丰富的文本知识，同时提高药物设计的效率和创新能力，并在多个基准测试中获得了最先进的泛化能力。

    Dec, 2022