Feb, 2024

AI - 增强的合成生物领域下的打地鼠治理挑战：文献综述与新兴框架

PDF
TL;DRAI 启用的合成生物学具有巨大潜力但也显著增加了生物风险并带来了一系列新的双重使用关切。这篇论文通过文献综述并描述了政策与实践的新框架，旨在超越命令与控制、管理、自下而上和自由放任等治理选择，以实现预防和缓解 AI 启用的生物危害所需的预警系统，并强调需要出现灵活、互动的方法。尽管生物风险受到已建立的治理体制的约束，科学家通常遵守生物安全协议，但即便是科学家进行合法的实验使用，也可能带来意想不到的发展。在聊天机器人和生成式 AI 的最新进展下，人们再次对先进的生物洞察力更容易落入恶性个人或组织手中感到担忧。鉴于这些问题，社会需要重新思考如何治理 AI 启用的合成生物学。本文建议将面临的挑战视为 “打地鼠” 治理，尽管新兴的解决方案也许并没有那么不同。
发现论文，激发创造
  • AI 的治理、由 AI 治理、为 AI 治理

    人工智能技术快速发展，已经在艺术创作、文字生成和编程等多个领域带来深刻变革，然而，智能技术的出现也在挑战人类的治理能力以及智能技术自身的治理问题。本文基于机器学习算法，通过分析人类治理人工智能的方式，探讨了人工智能接管人类的可能性，提出了人工智能治理的思路及建议。

    May, 2023

  • 企业生成人工智能治理

    基于调查最近的研究作品，这项综述填补了研究组织治理范围的空白，通过发展适用于公司的 GenAI 治理框架，超越了简单的总结，为公司利用 GenAI 的商业机会并抵御相关风险提供了目标和治理机制的大致范围。该研究提供了一个专注于 GenAI 治理的方法，为公司应对负责任的人工智能采用的挑战提供了实用的见解，同时也有助于技术人员开阔视野，以及发现新的研究方向。

    Feb, 2024

  • 负责任机器学习系统的 AI 治理简介

    本文探讨了人工智能技术的风险，并介绍了一种名为 AI 治理的框架，以确保人工智能的负责任使用，从而避免和减轻包括监管、合规性、声誉、用户信任、财务和社会风险在内的风险。

    Nov, 2022

  • 控制科学中人工智能潜在滥用的风险

    该研究旨在提高科学领域中人工智能滥用的危险，并呼吁在该领域中负责任地开发和使用人工智能。通过列举科学环境中人工智能带来的风险，并通过化学科学领域的实际滥用示例来展示这些风险，高亮显示了有效的风险管理策略的需求。为此，我们提出了一个名为 SciGuard 的系统来控制科学中人工智能模型的滥用风险，并提出了一个名为 SciMT-Safety 的红队基准来评估不同系统的安全性。我们的提议在评估中显示出最小的有害影响，并且在良性测试中不会影响性能。最后，我们强调了跨学科和合作努力来确保在科学中安全和道德地使用人工智能模型的需求。我们希望我们的研究能够激发研究人员、从业者、决策者和公众之间就科学中的人工智能的道德使用展开有建设性的讨论，以最大化利益，最小化滥用风险。

    Dec, 2023

  • 探讨高水平人工智能的差异化风险和控制问题

    本文使用分层复杂系统框架对人工智能（AI）风险进行建模，并从公共和私营领域的领域专家收集调查数据以分类 AI 影响和可能性，结果显示强大的 AI 代理情景有更多不确定性，对 AI 对齐失败和影响寻求行为的关注增加以及对多智能体环境的信心增强。

    Nov, 2022

  • 双重治理：中央监管与众包安全机制在生成式人工智能中的交叉

    通过实施 Dual Governance 框架，我们认为可以促进创新和创造力，同时确保生成 AI 的安全和道德部署。

    Aug, 2023

  • 鉴定和减轻生成式人工智能的安全风险

    生成式人工智能技术（GenAI）可能被用于积极和消极目的，这篇论文讨论了 GenAI 所带来的双重用途困境，并提出了针对此问题的短期和长期目标，旨在引发学术界对此重要主题的深入讨论。

    Aug, 2023

  • 走向生物设计工具的负责任治理

    生成式机器学习，生物设计工具，预测准确性，双重风险，监管提案。

    Nov, 2023

  • 伦理道德作为人工智能治理工具的效率

    本文对人工智能伦理学的现状进行了批判性分析，并认为基于原则性伦理准则的这种治理形式不足以规范人工智能行业及其开发者。建议通过对人工智能相关专业人员的培训过程和增加对其行业的监管来实现根本性变革。为此，建议法律应从生物伦理学中获益，并将人工智能伦理学的探索成果在法律条文中加以明确规范。

    Oct, 2022

  • 基于自然语言处理的合成生物学伦理、法律和社会影响推荐系统开发

    该文探讨如何使用自然语言处理技术来开发一个推荐模型，以连接合成生物学家与其研究所涉及的伦理、法律和社会问题的信息。该推荐模型是一个更大的项目 —— 合成生物学知识系统（SBKS）的组成部分，旨在将相关伦理和社会问题信息汇总为一，嵌入到合成生物学研究工作流程中。

    Jul, 2022