Nov, 2023

大型语言模型用于科学研究的跨学科视角

HTML
PDF
TL;DR大型语言模型 (LLMs) 能够在不同学科领域发挥作用和限制，加强科学研究，例如通过总结大量出版物加速文献回顾，通过自动语法纠正提升代码开发，和优化科学写作过程。然而，LLMs 面临挑战，如依赖庞大且有时偏颇的数据集，以及出于使用而引发的潜在伦理困境。我们对LLMs在不同领域的影响进行重要讨论，从自然科学中帮助模拟复杂生物序列，到社会科学中解析大规模的定性数据。最后，我们提供一种细致的观点，认为LLMs既是科学进步的福音，也是其边界。
发现论文，激发创造
  • 2017年至2023年大型语言模型研究的文献计量学综述

    本文通过对5000多篇学术文献的综合分析，提供了关于LLM研究的路线图，包括核心算法开发、自然语言处理任务、LLM在医学、工程、社会科学和人文学科中的应用等方面的研究趋势以及研究范式和合作模式的变化，为研究人员、从业者和决策者了解LLM研究的当前状态、影响和潜力提供了有价值的见解。

    Apr, 2023

  • 语言与大型语言模型之间的去向问题

    人工智能，自然语言处理，大型语言模型和科学模型在语言方面的应用和发展的研究。

    Oct, 2023

  • 评估大型语言模型：综述

    该研究综述了大型语言模型的评估方法，并提出了知识与能力评估、对齐评估和安全评估三个主要方面的评估方法，以及涵盖能力、对齐、安全和适用性的综合评估平台的构建。希望该综述能够推动对大型语言模型评估的更多研究兴趣，以促进负责任发展和最大化社会利益，同时最小化潜在风险。

    Oct, 2023

  • 大型语言模型的出现如何影响科学实践？

    大型语言模型越来越多地被纳入科学工作流程中，但我们还没有完全掌握这种整合的影响。大型语言模型的出现应该如何影响科学实践？本观点文章邀请了四组不同的科学家来思考这个问题，分享他们的观点并进行辩论。

    Dec, 2023

  • 科学大型语言模型：生物与化学领域综述

    大型语言模型 (LLMs) 在增强自然语言理解方面具有变革性的力量，代表着朝着人工通用智能迈出的重要一步。科学LLMs是一个新兴的领域，专门针对促进科学发现进行工程化设计。本文详细调查了科学LLMs，并围绕生物化学领域进行了深入研究，包括文本知识、小型分子、大分子蛋白质、基因组序列以及它们的组合，从模型架构、能力、数据集和评估等方面进行了分析。最后，我们批判性地审查了当前的挑战，并指出了前景广阔的研究方向以及LLMs的进展。通过提供对该领域技术发展的全面概述，本调查力求成为研究人员在科学LLMs复杂领域中的宝贵资源。

    Jan, 2024

  • 大型语言模型的历史、发展和原理：简介调查

    综述着重探究语言模型的历史背景、发展过程、因素、原理、现有工作的局限以及未来发展方向，为广大读者提供一个可理解的综合概述。

    Feb, 2024

  • 科学论文中LLM的使用增加趋势的映射

    通过对950,965篇论文进行大规模分析，我们发现大型语言模型在学术写作中的使用不断增加，尤其在计算机科学论文中增长最快（最高达17.5%），而数学论文和Nature期刊的修改程度相对较低（最高达6.3%）。此外，我们的研究发现，更多使用大型语言模型的论文往往由经常发布预印本的第一作者、研究领域较为拥挤的论文以及长度较短的论文撰写而成。这些结果表明大型语言模型在科学写作中被广泛应用。

    Apr, 2024

  • 科学大型语言模型及其在科学发现中的应用综述

    该研究对250个科学领域的大型语言模型进行了全面调研，揭示了它们在架构和预训练技术上的交叉领域和跨模态连接，并总结了每个领域和模态的预训练数据集和评估任务。此外，还研究了大型语言模型在科学发现中的应用。

    Jun, 2024

  • 面向科学文本的高效大型语言模型：综述

    本研究解决了大型语言模型在科学领域应用时面临的高昂计算资源和训练时间的问题。通过对现有方法的总结与分析，本文提出了两条主要的研究方向，即模型规模和数据质量的提升。研究表明，这些方法的综合应用能够显著降低科学领域内使用大型语言模型的成本，推动更可负担的AI解决方案的发展。

    Aug, 2024

  • 大型语言模型解码：社会技术影响、约束与新兴问题的系统概述

    本研究探讨了大型语言模型（LLMs）在自然语言处理和人工智能领域的快速发展，识别其影响、局限性及未来方向。研究提供了LLM发展的责任开发考虑、算法改进、伦理挑战和社会影响的全面概述，强调了其潜在的社会积极影响和伦理问题。

    Sep, 2024