Oct, 2023

蒙特卡洛思维搜索：大型语言模型在催化剂设计中进行复杂科学推理

PDF
TL;DR通过蒙特卡洛树搜索方法与科学推理，提出了一种新的驱动组合搜索的方法，可以增强科学家的推理和发现过程。
catalystschemical propertiescombinatorial searchmonte carlo tree searchscientific reasoning
发现论文，激发创造
  • CHEMREASONER: 采用量子化学反馈的大规模语言模型知识空间的启发式搜索

    我们通过将计算机辅助筛选框架与语言推理和量子化学相结合，创造性地实现了人工智能加速的可靠催化剂发现。

    Feb, 2024

  • 结构化化学推理与大型语言模型

    本文研究利用大型语言模型（LLMs）解决复杂的化学问题的问题，提出了 InstructChem，一种新的结构化推理方法，极大地提升了 LLMs 的化学推理能力。

    Nov, 2023

  • 大型语言模型是超人级化学家吗？

    通过 ChemBench 等评估框架，我们发现大型语言模型在化学科学中展示出卓越的能力，但仍需进一步研究以提高其安全性和实用性。

    Apr, 2024

  • 化学 LLM: 一种化学大型语言模型

    ChemLLM 是第一个专门用于化学领域的大型语言模型，通过使用结构化化学知识构建对话系统，能够在化学学科中顺畅交互完成各种任务，包括名称转换、分子标题和反应预测，并在相关数学和物理任务中展现出出色的适应性。

    Feb, 2024

  • CataLM: 通过大型语言模型强化催化剂设计

    利用人工智能，该研究引入了 CataLM Cata} lytic Language Model，它是面向电催化材料领域的大型语言模型，展示了在催化剂知识探索和设计方面提供协作的巨大潜力，并为催化剂的发现和发展提供了创新途径。

    May, 2024

  • 无需训练仍可受益。运用能量函数引导的蒙特卡罗树搜索释放大语言模型的数学推理能力

    通过使用蒙特卡洛树搜索和轻能量函数，我们对经过微调的大型语言模型进行了改进，提高了数学推理的正确性和步骤，从而在不需要进一步微调或 RLHF 对齐的情况下，将经过微调的模型的一次通过率显著提高。

    Sep, 2023

  • Sci-CoT：利用大型语言模型增强科学问答中小模型的知识蒸馏

    本文旨在通过知识蒸馏的方式将大型语言模型的推理能力传递给较小模型，提出了一种名为 Sci-CoT 的两阶段框架，该框架通过分离生成推理步骤和推理答案的过程，在科学问答任务中利用推理步骤更有效地进行推理，使得 8000 万参数的模型在 ARC-Easy 数据集的少样本情况下超过了 BLOOM-176B 的性能。

    Aug, 2023

  • 科学语言建模：大型语言模型在分子科学中的定量评价

    通过使用多模态基准 ChEBI-20-MM，我们评估了模型与数据模态的兼容性和知识获取，并通过模态转移概率矩阵提供了适用于任务的最合适的模态，同时引入了一种统计可解释的方法，通过局部特征过滤来发现具有上下文特定的知识映射，从而揭示了科学语言建模在分子科学中的学习机制及其推进方法的可能性。

    Feb, 2024

  • T-SciQ: 通过大语言模型信号进行多模态思维推理教学，用于科学问答

    提出了一种名为 T-SciQ 的新方法，通过使用 LLM 信号生成高质量的思维链标理，训练具有 CoT 推理能力的模型并在科学问题回答中获得了最新的最高性能。

    May, 2023

  • 大语言模型时代的材料科学：一个观点

    我们提供一个对大型语言模型在材料科学研究中的适用性的观点，认为它们处理一系列任务和学科中的模糊需求的能力使它们成为帮助研究人员的强大工具。我们定性地研究了基础的大型语言模型理论，并将其与文献中的相关性质和技术联系起来，然后提供了两个案例研究，展示了它们在大规模任务自动化和知识提取中的应用。我们认为，在当前的发展阶段，大型语言模型应该被视为能够加速和统一领域探索的不知疲倦的工具，而不是新见解的神谕。希望本文能让材料科学研究人员了解到运用这些工具的相关概念。

    Mar, 2024