Sep, 2024

ChemDFM-X：面向化学的多模态大型模型

HTML
PDF
TL;DR本研究解决了现有单模态特定模型和新兴大型多模态模型无法覆盖化学数据的广泛需求的难题。我们提出了首个化学跨模态对话基础模型ChemDFM-X，通过生成多样化的多模态数据，构建了一个包含760万条数据的指令调优数据集。ChemDFM-X在不同化学任务上展现出其多模态和跨模态知识理解的能力，为化学领域的通用智能奠定了重要基础。
发现论文，激发创造
  • 一种分子多模基础模型，将分子图与自然语言相关联

    通过对分子的图形和语义相关文本数据进行对比学习，我们提出了一个分子多模态基础模型，该模型结合了图形和自然语言的特定和互补信息，更好地抓住了分子的专业知识以及具备了从自然语言描述中生成有意义的分子图形的能力。

    Sep, 2022

  • 利用多任务语言建模统一分子和文本表示

    提出了一种多领域、多任务的语言模型，能够处理化学和自然语言，并共享模型参数来优化实验室操作和科学发现加速。

    Jan, 2023

  • ChemDFM：化学对话基础模型

    化学研究中的大型语言模型，ChemDFM，具有高度专业化的语言和知识，并在化学任务中表现出强大的性能和效果。

    Jan, 2024

  • 从词语到分子: 化学中大型语言模型的调查

    将大型语言模型 (LLMs) 整合到化学领域是一个复杂的任务，本文以细致的方法论探索了该跨学科领域的复杂性和创新，从分子信息如何通过各种表示和标记方法导入LLMs开始，将化学LLMs分为三个不同的群体，并讨论了将这些输入整合到LLMs的方法，然后探讨了应用LLMs在化学中的多样化应用，包括在化学任务中的新范例，最后确定了有望的研究方向，包括进一步整合化学知识，持续学习的进展以及模型可解释性的改进，为该领域的突破性发展铺平了道路。

    Feb, 2024

  • 化学LLM: 一种化学大型语言模型

    ChemLLM是第一个专门用于化学领域的大型语言模型，通过使用结构化化学知识构建对话系统，能够在化学学科中顺畅交互完成各种任务，包括名称转换、分子标题和反应预测，并在相关数学和物理任务中展现出出色的适应性。

    Feb, 2024

  • LlaSMol：通过大规模、综合、高质量的指导调整数据集推进化学领域的大型语言模型

    我们研究了基于SMolInstruct数据集进行fine-tune的大型语言模型在化学任务上表现出色，特别是Mistral模型，同时，我们还分析了可训练参数的影响，为未来的研究提供了一些见解。

    Feb, 2024

  • 大型语言模型是超人级化学家吗？

    通过ChemBench等评估框架，我们发现大型语言模型在化学科学中展示出卓越的能力，但仍需进一步研究以提高其安全性和实用性。

    Apr, 2024

  • 视觉与化学知识的桥梁：ChemVLM的提出

    本研究解决了化学图像理解与文本分析之间的不兼容性问题，提出了首个专注于化学领域的开源多模态大语言模型ChemVLM。该模型不仅结合了强大的图像编码器，还在多个基准测试中表现卓越，实现了五项任务的最先进结果，展示了其在化学领域的显著潜力和影响。

    Aug, 2024

  • ChemVLM：探索多模态大语言模型在化学领域的应用

    本研究解决了现有化学大语言模型在处理视觉信息方面的不足，提出了一种名为ChemVLM的多模态大语言模型，专门应用于化学领域。ChemVLM经过双语多模态数据集训练，能够更好地理解文本和视觉信息，实验结果表明其在多个评估任务中表现优异，对化学领域具有潜在的深远影响。

    Aug, 2024

  • ChemEval：面向大型语言模型的全面多层次化学评估

    本研究解决了现有大型语言模型（LLMs）评估在化学领域的不足，提出了ChemEval评估体系，以评估LLMs在多种化学任务中的能力。结果表明，一般LLMs在文献理解方面表现良好，但在需要高级化学知识的任务中存在不足，而专用LLMs则在化学能力上有所提升，这显示了优化LLMs以应对复杂化学任务的潜力。

    Sep, 2024