我们提出了 MLSUM，这是第一个大规模的多语言摘要数据集，包括五种不同语言的 150 万篇文章 / 摘要对，与来自 CNN / Daily mail 数据集的英文报纸一起，构成一个大规模的多语言数据集，可以为文本摘要社区提供新的研究方向。我们基于最先进的系统进行交叉语言比较分析，发现了现有偏见，这促使我们使用多语言数据集。

Apr, 2020

基于材料科学知识和假设生成及假设测试，我们描述了材料科学 LLMs 的框架，以及构建大规模多模态数据集的挑战和应用 MatSci-LLMs 进行材料发现的路线图。

Feb, 2024

本文介绍了在材料科学文献数据的基础上训练的一种面向材料科学领域的语言模型 MatSciBERT，并对其在抽象分类、命名实体识别和关系提取等领域的性能进行了评价。结果表明 MatSciBERT 在这些任务中具有优异的表现，可用于提取材料领域的信息以推动材料的发现或优化。同时我们提供 MatSciBERT 的预训练和微调权重，以及模型的免费访问权。

Sep, 2021

我们提供一个对大型语言模型在材料科学研究中的适用性的观点，认为它们处理一系列任务和学科中的模糊需求的能力使它们成为帮助研究人员的强大工具。我们定性地研究了基础的大型语言模型理论，并将其与文献中的相关性质和技术联系起来，然后提供了两个案例研究，展示了它们在大规模任务自动化和知识提取中的应用。我们认为，在当前的发展阶段，大型语言模型应该被视为能够加速和统一领域探索的不知疲倦的工具，而不是新见解的神谕。希望本文能让材料科学研究人员了解到运用这些工具的相关概念。

Mar, 2024

这项研究通过利用投票算法，提出了一种新的框架 LaMSUM，通过大型语言模型生成用户生成的文本的摘要，结果显示 LaMSUM 优于现有的提取式摘要方法，同时试图解释语言模型生成的摘要产生的原因。

Jun, 2024

介绍了在材料科学领域中信息提取的一个新挑战性任务，针对用于固体氧化物燃料电池实验的相关材料和测量条件等信息，提出了标注方案并构建 SOFC-Exp 语料库；通过神经网络模型，并结合 BERT 嵌入和递归神经网络，在该数据集上得到良好的性能，在研究领域具有竞争力的基础模型。

Jun, 2020

通过使用大型语言模型（LLMs）创建化学家 AI 代理程序，本研究克服了通过自动创建从自然语言文本中提取结构化数据集所面临的质量和一致性问题、可扩展性限制、以及人为错误和偏见的风险，进而简化了各种材料发现应用的机器学习数据集的编制，以及对自然语言处理工具的易用性提升。

Dec, 2023

我们基于材料学领域的 650 个具有挑战性的问题，对 GPT-3.5 和 GPT-4 模型在问答、零点提示和思维链激励下的表现进行了评估，并发现 GPT-4 的准确率最高（约为 62%），而与思维链激励相比，没有明显的准确率提高。通过错误分析，我们发现概念错误（64%）是改进语言模型表现的主要因素，而计算错误（36%）对 LLMs 性能的降低起到了次要作用。我们希望该工作中的数据集和分析能够促进材料科学领域特定 LLMs 的开发和信息提取策略的研究。

Aug, 2023

本论文介绍推出的通过标记图表达句子语义、带有经验标注的 230 个物质合成程序数据集，旨在为材料科学领域进行材料合成的自动计划和科学信息提取等方面的研究和开发提供支持。

May, 2019

本研究基于科学出版物的常规修辞结构，将辩证区域的分类扩展到材料科学研究领域，并提出并发布了一个新的数据集，该数据集具有材料科学为中心的多标签注释方案，实验结果表明，使用特定领域的预训练基于 transformer 的文本编码器对高分类性能至关重要。

Jul, 2023