使用 Large Language Models (LLMs) 进行零/少量数据量的分子分类以及利用由LLMs生成的文本解释作为分子表示，可以大大提高分子属性预测的精度。

Jul, 2023

利用大型语言模型进行材料属性预测，通过引入模型MatInFormer，在加工空间群信息的关键词化过程中学习晶体学语法，并通过任务特定数据进一步展示MatInFormer的适应性。通过注意力可视化，我们揭示了模型在属性预测过程中重点关注的特征，并在14个不同数据集中验证了我们提出模型的有效性，从而强调其在通过准确的材料属性预测进行高通量筛选方面的潜力。

Aug, 2023

开发出一个名为TextEdge的基准数据集，包含了关于晶体结构及其性质的文本描述，并提出了一种名为LLM-Prop的方法，利用大型语言模型（LLMs）的通用学习能力，从晶体的文本描述中预测其物理和电子性质，并在预测带隙、分类带隙是否为直接或间接和预测晶胞体积方面的性能优于现有最先进的基于GNN的晶体性质预测模型。

Oct, 2023

在科学领域，LLMs的幻觉问题是必须解决的，因为可重现性是至关重要的。本文介绍了LLaMP，这是一个多模态检索增强生成（RAG）框架，由多个数据感知推理和行动（ReAct）代理组成，动态与Materials Project（MP）上的计算和实验数据交互。LLaMP在不进行精细调整的情况下，能够理解和整合各种材料科学概念的多模态信息，实时获取相关数据，处理高阶数据（如晶体结构和弹性张量），并对固态合成的多步骤过程进行总结。同时，LLaMP能有效纠正GPT-3.5在频繁文档中的带隙和形成能量方面的错误，并将钻立方硅结构的虚幻体积应变从66.3％降低到0。该框架为材料信息学提供了一种直观且几乎无幻觉的方法，并为知识蒸馏和精细调整其他语言模型奠定了基础。我们设想该框架作为科学假设的有价值组成部分，并为未来的自主实验室奠定基础，多个LLM代理与机器人通信和协作，驱动材料合成和化学反应，无需硬编码的人类逻辑和干预。

Jan, 2024

将大型语言模型 (LLMs) 整合到化学领域是一个复杂的任务，本文以细致的方法论探索了该跨学科领域的复杂性和创新，从分子信息如何通过各种表示和标记方法导入LLMs开始，将化学LLMs分为三个不同的群体，并讨论了将这些输入整合到LLMs的方法，然后探讨了应用LLMs在化学中的多样化应用，包括在化学任务中的新范例，最后确定了有望的研究方向，包括进一步整合化学知识，持续学习的进展以及模型可解释性的改进，为该领域的突破性发展铺平了道路。

Feb, 2024

大型语言模型在分子空间中进行Bayesian优化的实验表明，只有通过预训练或领域特定数据的微调，才能使LLMs对于分子的Bayesian优化具有实用性。

Feb, 2024

LLMs在分子预测任务中的表现相对较弱，而与机器学习模型合作使用时，LLMs有潜力提升模型性能。

Mar, 2024

该研究引入了一个系统框架，用于比较大型语言模型在各种化学信息学任务中的微调效果。通过采用统一的训练方法，我们评估了三种知名模型（RoBERTa、BART和LLaMA）在使用SMILES作为通用分子表示格式预测分子性质时的能力。我们的比较分析涉及18种不同参数大小和数据集规模的这些模型的预训练，接着对它们在DeepChem的六个基准任务上进行微调。该研究不仅界定了每种模型类型的优势和局限性，还为选择最适合特定化学信息学应用的大型语言模型提供了可靠的方法论。

May, 2024

该研究针对现有图深度学习方法在化学性质预测中的局限性，提出了一种多模态融合框架，结合了大型语言模型和图神经网络的优点。研究表明，该方法在分子属性预测的准确性和鲁棒性上显著优于现有基准，尤其在应对分布转移问题时表现突出。

Aug, 2024

本文解决了如何利用大型语言模型（LLMs）生成的向量嵌入捕捉材料属性潜在信息的问题。研究表明，尽管提取这些嵌入需要找到最优的上下文线索和适当的比较对象，但LLMs仍然能够为材料科学提供有意义的表示，具有数据驱动预测材料属性的潜力。

Sep, 2024