该研究旨在提高科学领域中人工智能滥用的危险，并呼吁在该领域中负责任地开发和使用人工智能。通过列举科学环境中人工智能带来的风险，并通过化学科学领域的实际滥用示例来展示这些风险，高亮显示了有效的风险管理策略的需求。为此，我们提出了一个名为 SciGuard 的系统来控制科学中人工智能模型的滥用风险，并提出了一个名为 SciMT-Safety 的红队基准来评估不同系统的安全性。我们的提议在评估中显示出最小的有害影响，并且在良性测试中不会影响性能。最后，我们强调了跨学科和合作努力来确保在科学中安全和道德地使用人工智能模型的需求。我们希望我们的研究能够激发研究人员、从业者、决策者和公众之间就科学中的人工智能的道德使用展开有建设性的讨论，以最大化利益，最小化滥用风险。

Dec, 2023

该报告调查了恶意使用 AI 的潜在安全威胁的现状，并提出了更好地预测，预防和减轻这些威胁的方法。在分析了 AI 可能如何影响数字，物理和政治领域的威胁格局之后，我们为 AI 研究人员和其他利益相关者提出了四个高层次的建议。我们还建议一些有前途的研究领域，以扩展防御手段的组合，或使攻击变得不那么有效或难以执行。最后，我们讨论了进攻者和防御者的长期平衡，但并未得出确定性结论。

Feb, 2018

通过对 8700 万篇论文和 710 万项专利采用自然语言处理技术，研究发现 AI 在科研中的使用范围广泛，特别是自 2015 年以来增长迅速，使用 AI 的论文影响因子更高，同时也存在 AI 人才供需不平衡和种族、性别等方面的不公平问题。

Apr, 2023

本文系统综述了国际上共 73 篇针对人工智能 (AI) 监管的学术论文，重点关注社会风险、监管责任和可能的政策框架，包括基于风险和基于原则的方法。研究发现 AI 领域的复杂性，以及其尚未成熟和缺乏明确性。通过与欧洲 AI 监管建议的比较，本文展示了该监管的具体方法、优点和缺点，有助于更好的理解 AI 和监管之间的关系及其中的规范决策。

Sep, 2022

通过对最近的跨学科文献进行综述，本文考察了人工智能技术（例如 ChatGPT）对学术写作和出版产生的重大影响，着重讨论了人工智能被用于学术不端行为时的伦理考虑以及在学术论文的写作、编辑和审查中使用人工智能时所需的监督。研究结果强调了出版商、编辑、审稿人和作者之间合作使用人工智能的需要，以确保该技术在道德和生产力方面的合理使用。

Jun, 2024

人工智能（AI）系统将越来越常被用于造成伤害，为了防止对 AI 的一些错误使用，本文提出了一种减少 AI 误用的干预分类法，重点在于对于误用所需的特定步骤（误用链）进行干预以及确定是否需要此干预。

Mar, 2023

最近的研究发现了人工智能安全领域研究与实践之间存在的差距：学术界研究的威胁并不总是反映了人工智能的实际使用和安全风险。我们的研究是为了描述这种差异的完整程度，并将六种最常研究的人工智能安全攻击威胁模型与实际使用中的人工智能进行匹配。我们发现所有的现有威胁模型确实是适用的，但也存在重大差异：研究常常太宽容于攻击者，并假设实际环境中很少可用的信息。因此，我们的论文呼吁在人工智能安全领域研究更多实用的威胁模型。

Nov, 2023

滥用民用人工智能（AI）可能对国家和国际安全构成严重威胁，本文通过定义自主系统并解释 AI 开发的特点来展示已存在且公开可用的 AI 技术如何被滥用，进一步开发了三个潜在被滥用的 AI 使用案例，威胁政治、数字和实体安全，这些案例可以通过现有的学术界、私营部门和开发者社区的 AI 技术组件组合成自主武器系统，基于这些案例，我们总结了控制点和进一步措施，以防止通过滥用 AI 产生潜在威胁，并倡议在自主武器系统（AWS）讨论中考虑民用 AI 系统的滥用。

Mar, 2024

人工智能创新主要关注 “what” 和 “how” 问题，忽视可能的危害与社会背景，导致了潜在的社会技术问题，因此我们需要计算机科学和社会学科之间更紧密的联系。

Dec, 2020

人工智能（AI）在工业和学术界取得了巨大的发展。然而，工业界最近取得的令人瞩目的进展震撼了世界，这使得我们对学术研究在这一领域中的作用有了新的认识。我们通过对过去 25 年间工业界和学术界在 AI 领域产生的影响和类型进行了界定，并建立了一些模式。我们发现，由纯粹由工业研究人员组成的团队发表的论文往往会受到更多的关注，更有可能被高度引用和具有颠覆性引用，而且是几倍于产生最先进模型的可能性。相比之下，我们发现纯粹由学术研究团队发表的论文占了 AI 研究的大部分，并且往往产生更高的创新性工作，其单篇论文成为非传统和非典型论文的可能性是几倍于其他。工业界和学术界在影响力和创新性方面的优势对于子领域、团队规模、资深度和声誉的控制都是稳健的。我们发现学术界和工业界的合作很难复制学术团队的创新性，并且往往与工业团队相似。综上所述，我们的研究结果确定了学术界和工业界在人工智能健康进展中所作出的独特和几乎是无可替代的贡献。

Jan, 2024