Feb, 2024

L+M-24：构建 ACL 2024 的语言 + 分子数据集

PDF
TL;DR通过为 ACL 2024 的 Language + Molecules Workshop 共享任务创建的 L+M-24 数据集，详细介绍了语言 - 分子模型的三个关键优势：组合性、功能性和抽象性。
language-molecule modelsmolecular discoverydatasetcompositionalityfunctionality
发现论文，激发创造
  • ALMol：通过离线偏好对比优化实现对齐的语言 - 分子翻译 LLM

    化学和人工智能的交叉领域是一个积极研究的领域，旨在加速科学发现；该研究聚焦于机器翻译化学语言和分子模型，并采用一种新的训练方法，通过对比优化来提高模型性能。

    May, 2024

  • 大规模语言模型用于分子预测任务的基准测试

    LLMs 在分子预测任务中的表现相对较弱，而与机器学习模型合作使用时，LLMs 有潜力提升模型性能。

    Mar, 2024

  • 反馈对齐的混合 LLMs 用于机器语言分子翻译

    使用先进的优化算法和非线性融合，通过少量数据实现科学大语言模型的性能提升和新的最佳水平，并引入细粒度的评估方法来评估大语言模型中的虚构能力和促进负责任的使用。

    May, 2024

  • 化学 LLM: 一种化学大型语言模型

    ChemLLM 是第一个专门用于化学领域的大型语言模型，通过使用结构化化学知识构建对话系统，能够在化学学科中顺畅交互完成各种任务，包括名称转换、分子标题和反应预测，并在相关数学和物理任务中展现出出色的适应性。

    Feb, 2024

  • MolX: 使用多模态扩展增强大型语言模型在分子学习中的能力

    本研究设计和装备 MolX 作为一种多模态外部模块，通过使用特定编码器从 SMILES 字符串和 2D 分子图表示中提取细粒度特征，从而增强了大型语言模型（LLMs）在理解分子方面的能力。实验结果表明，我们提出的方法在多种分子相关任务中表现出色，包括从分子到文本的翻译和分子的逆合成，无论是否对 LLM 进行微调。

    Jun, 2024

  • LlaSMol：通过大规模、综合、高质量的指导调整数据集推进化学领域的大型语言模型

    我们研究了基于 SMolInstruct 数据集进行 fine-tune 的大型语言模型在化学任务上表现出色，特别是 Mistral 模型，同时，我们还分析了可训练参数的影响，为未来的研究提供了一些见解。

    Feb, 2024

  • 科学语言建模：大型语言模型在分子科学中的定量评价

    通过使用多模态基准 ChEBI-20-MM，我们评估了模型与数据模态的兼容性和知识获取，并通过模态转移概率矩阵提供了适用于任务的最合适的模态，同时引入了一种统计可解释的方法，通过局部特征过滤来发现具有上下文特定的知识映射，从而揭示了科学语言建模在分子科学中的学习机制及其推进方法的可能性。

    Feb, 2024

  • 大型语言模型用于蛋白质理解的微调数据集和基准评估

    通过整合前期训练模型和预训练的语言模型，本研究提出了 ProteinLMDataset 数据集和 ProteinLMBench 基准数据集，用于提升大型语言模型在蛋白质序列理解方面的能力，并通过实验证明其在蛋白质理解能力方面超越了 GPT-4。

    Jun, 2024

  • MoleculeQA：评估分子理解的事实准确性的数据集

    MoleculeQA 是一个用于分子研究的新型问题回答数据集，通过在每个问答对中提供手动问题、一个正选项和三个负选项，并与权威的分子语料库中的分子描述具有一致的语义，首次评估了现有分子语言模型在分子事实方面的准确性，并揭示了其中的不足之处和分子理解的几个关键因素。

    Mar, 2024

  • 从词语到分子：化学中大型语言模型的调查

    将大型语言模型 (LLMs) 整合到化学领域是一个复杂的任务，本文以细致的方法论探索了该跨学科领域的复杂性和创新，从分子信息如何通过各种表示和标记方法导入 LLMs 开始，将化学 LLMs 分为三个不同的群体，并讨论了将这些输入整合到 LLMs 的方法，然后探讨了应用 LLMs 在化学中的多样化应用，包括在化学任务中的新范例，最后确定了有望的研究方向，包括进一步整合化学知识，持续学习的进展以及模型可解释性的改进，为该领域的突破性发展铺平了道路。

    Feb, 2024