Sep, 2024

治理双用途技术：国际安全协议的案例研究及人工智能治理的启示

HTML
PDF
TL;DR本研究针对国际人工智能治理协议的设计，探讨了双用途技术的相关国际安全协议，填补了该领域的研究空白。通过分析核安全、化学武器、生物安全和出口管制等协议，提出了设计人工智能协议的关键启示，重点强调了验证方法、国家之间权力平衡、适应技术变化的机制及有效的执行手段。该研究有助于降低因高级人工智能带来的全球安全风险。
发现论文，激发创造
  • 人工智能监管政策的综合评述与系统分析

    通过全球的AI监管政策提案，历史教训和分析方法的研究，我们旨在通过一种分而治之的方式帮助管理机构解决AI监管混乱。

    Jul, 2023

  • 双重治理：中央监管与众包安全机制在生成式人工智能中的交叉

    通过实施Dual Governance框架，我们认为可以促进创新和创造力，同时确保生成AI的安全和道德部署。

    Aug, 2023

  • 民用人工智能的国际治理：一种辖区认证方法

    该报告描述了民用人工智能（AI）国际治理安排的设计权衡，并详细介绍了一种方法。该方法将标准、许可和责任制度扩展到全球层面。我们建议各国建立一个国际AI组织（IAIO），为符合国际监管标准的国家辖区（而不是公司或AI项目）进行认证。各国可以通过采用禁止从非IAIO认证辖区进口AI供应链货物的规定，来强化这些国际标准。这借鉴了现有国际组织的模式，如国际民用航空组织（ICAO）、国际海事组织（IMO）和金融行动工作组（FATF）。各国还可以对输出到未认证辖区的AI产品输入（如专用硬件）采取多边控制。事实上，认证可能需要同时满足进口和输出标准。随着国际行为者在高级AI的风险和最低标准方面达成共识，辖区认证制度可以减轻各种潜在危害，包括对公共安全的威胁。

    Aug, 2023

  • 多边谈判中的妥协与全球人工智能规范

    通过全球联合国教科文组织成员国的多样化立场代表，本文将解释人工智能(AI)规范的全球妥协成果，并构建了多边谈判的实践概念，将多边妥协归功于结构规范的混合性和定位规范的模糊性。

    Sep, 2023

  • 欧洲的人工智能监管：从AI法案到未来监管挑战

    欧盟AI监管、混合监管策略、AI法案等关键词所涵盖的论文讨论了AI监管的复杂性以及现行AI法案的不足，并呼吁建立协议以规范高性能开源AI系统的访问，以进一步完善AI技术的有效治理。

    Oct, 2023

  • 商业人工智能、冲突与道德责任：对双用途人工智能技术的道德责任的理论分析和实践方法

    人工智能系统的伦理责任是对其可能用于冲突应用的非军事应用进行理论分析和实践方法的介绍，包括通过建立多视角能力测试、集成数字水印和利用监测与报告机制来减轻开发者的道德责任。

    Jan, 2024

  • 从分类到规范：欧盟AI法规中的AI风险与监管措施的（地理）政治分类法

    技术创新和人工智能对社会产生了巨大的益处和威胁。这项研究提出了一个关注人工智能相关地缘政治风险的分类法，共识别出12种风险，分为四类：地缘压力、恶意使用、环境、社会和伦理风险以及隐私和信任侵犯。本文结合欧盟AI法案进行了政策评估，该法案在2023年3月通过，有望对减少AI风险产生积极的自上而下的影响，但需要进行相应的法规调整以更全面地减轻风险。针对开源模型的法规例外、将GPAI模型划分为系统风险的参数设置过高以及专门设计用于军事目的的系统被排除在法规义务之外等问题仍需要未来的行动。

    Apr, 2024

  • 解释性人工智能（XAI）中的虚假安全感

    通过分析有关AI规定和政策的立法进展，本研究讨论了可解释性人工智能（XAI）的技术现状及其对AI治理的潜在威胁，指出需要明确、合理的立法和政策以解决AI解释能力的问题。

    May, 2024

  • AI治理与问责：对Anthropic的Claude的分析

    研究了AI治理的重要性以及Anthropic的Claude模型的潜在威胁和缓解策略，并强调透明度、严格的基准测试和全面的数据处理过程在确保AI系统负责任发展和部署方面的重要性。同时讨论了AI治理的社会影响和AI问责所涉及的伦理考虑。

    May, 2024

  • AI法案的强大治理：AI办公室，AI委员会，科学专家组和国家机构

    欧盟的新人工智能法案（AIA）将如何实施和执行，建议了一种规范的治理模型，以确保AIA的统一和协调执行以及法律的履行。

    May, 2024