本报告总结了 Dagstuhl Seminar 22382“科学中的机器学习：桥接数据驱动和机理建模” 的讨论并提出了如何协作来推动人工智能和科学发现的新一波进展的路线图。

Mar, 2023

通过对 8700 万篇论文和 710 万项专利采用自然语言处理技术，研究发现 AI 在科研中的使用范围广泛，特别是自 2015 年以来增长迅速，使用 AI 的论文影响因子更高，同时也存在 AI 人才供需不平衡和种族、性别等方面的不公平问题。

Apr, 2023

人工智能对科学研究的转变影响进行了探索，突出了人工智能革新科学家工作的十种方式，包括强大的引用工具、对研究问题的改进理解、优化研究设计、数据生成和数据转换、高级数据分析和人工智能辅助报告，并且强调了人工智能可以增强科学中的人类创造力但不能取代它。

Jul, 2023

该研究表明，将人类专业知识的分布纳入考虑，并以此训练无监督的人工智能模型，能够显著提高 AI 对未来发现的预测能力，特别是在相关文献稀缺的情况下，这些模型成功预测出人类预测和可能做出预测的科学家，为科学进步开创新的前沿。

Jun, 2023

本文为 AI4Science 领域中的一个子领域 —— 量子、原子和连续系统的 AI 提供了技术上的全面介绍，重点在于探讨诸如如何采用深度学习方法捕捉自然系统物理第一性原理、特别是对称性等挑战。

Jul, 2023

自动化整个科学方法论需要数据归纳的自动化以及实验从设计到实施的自动化，机器人科学家是将人工智能和实验室机器人相结合，具备进行真实世界实验检验假设的能力。本章探讨了机器人科学家在科学哲学中的基本原理，并将其活动与机器学习范式相对应，认为科学方法与主动学习有类似之处。我们使用以往机器人科学家的案例以及 Genesis 的案例进行实证，Genesis 是一种面向系统生物学研究的下一代机器人科学家，具备 1000 个计算机控制的微生物反应器的微流控系统和基于可控词汇和逻辑的可解释模型。

Jun, 2024

该研究旨在提高科学领域中人工智能滥用的危险，并呼吁在该领域中负责任地开发和使用人工智能。通过列举科学环境中人工智能带来的风险，并通过化学科学领域的实际滥用示例来展示这些风险，高亮显示了有效的风险管理策略的需求。为此，我们提出了一个名为 SciGuard 的系统来控制科学中人工智能模型的滥用风险，并提出了一个名为 SciMT-Safety 的红队基准来评估不同系统的安全性。我们的提议在评估中显示出最小的有害影响，并且在良性测试中不会影响性能。最后，我们强调了跨学科和合作努力来确保在科学中安全和道德地使用人工智能模型的需求。我们希望我们的研究能够激发研究人员、从业者、决策者和公众之间就科学中的人工智能的道德使用展开有建设性的讨论，以最大化利益，最小化滥用风险。

Dec, 2023

AI 科学家可以通过与实验平台相结合的协作代理，将机器学习工具与生物医学研究相结合，从而通过怀疑性学习和推理提升生物医学研究的能力。

Apr, 2024

使用 AI 技术构建基于真实世界数据的 Science4Cast 基准测试，并提出十种不同的方法来预测人工智能研究的未来研究方向，最终目的是为了更先进的研究建议工具。

Sep, 2022

本文研究了科学研究机构在负责人工智能设计和开发中的道德风险意识和准备情况，揭示了知识缺口和对可用人工智能伦理框架的意识有限。我们的研究结果显示，在没有适当的指导和管理下实施人工智能技术可能会带来潜在的道德风险，因此需要全面的策略来提高团队能力，支持负责、道德和包容的人工智能开发和部署。

Dec, 2023