Feb, 2024

填补监管漏洞：构建欧盟 AI 审计生态系统 —— 在 AIA 之外引入民间社会

PDF
TL;DR审查了欧洲立法机构提出的数字服务法案（DSA）和人工智能法案（AIA），发现 AIA 缺乏为研究人员和公民社会提供数据访问的监管机制，因此呼吁 DSA 和 AIA 的修改和补充以提供第三方审计和数据访问，以建立促进合规和监督机制的人工智能审计生态系统。
发现论文，激发创造
  • 推进 AI 审计以加强 AI 治理

    人工智能服务和系统的审计问题及其促进良好人工智能治理的三项建议。

    Nov, 2023

  • 算法审计的法律与新兴政治经济

    本文系统回顾 DSA 和 OSA 的审核规定，并探讨了算法审核的新兴政治经济格局和传统审计师可能对该领域产生的风险。

    Apr, 2024

  • 人工智能审计标准委员会的必要性

    建立 AI 审计标准委员会以开发和更新与 AI 技术发展相适应的审计方法和标准，以确保审核实践保持相关、健壮并能对 AI 的快速进展做出响应，此举有助于维护公众对 AI 的信任，促进 AI 行业的安全和伦理责任文化的发展。

    Apr, 2024

  • 关闭 AI 责任缺口：定义一个端到端框架用于内部算法审计

    本文介绍了一种算法审计框架，可支持人工智能系统从开发到部署的全生命周期，以评估决策的符合情况并通过确保审计的完整性来填补开发和部署大规模人工智能系统的问责制鸿沟。

    Jan, 2020

  • 遵守欧盟 AI 法案

    该研究论文通过对 EU AI Act 的分类，开发了一个问卷，提供定量数据和洞见。数据分析显示了不同合规性类别下组织所面临的各种挑战，并研究了组织特征（如规模和行业）对合规性的影响。此外，论文还分享了被调查对象对 AI Act 内容和应用的常见问题的定性数据。论文认为在遵循 AIA 方面仍有改进空间，并提及了一个相关项目，试图帮助这些组织解决问题。

    Jul, 2023

  • 欧洲的人工智能监管：从 AI 法案到未来监管挑战

    欧盟 AI 监管、混合监管策略、AI 法案等关键词所涵盖的论文讨论了 AI 监管的复杂性以及现行 AI 法案的不足，并呼吁建立协议以规范高性能开源 AI 系统的访问，以进一步完善 AI 技术的有效治理。

    Oct, 2023

  • 遵循欧盟 AI 法案：针对安全关键产品的合规方法论

    该文章提出了一种方法，通过利用产品质量模型来解释欧盟 AI 法案对高风险 AI 系统的要求。该方法将法案要求与相关的质量属性进行映射，并提出了一种合同为基础的方法来从利益相关者层面推导技术要求，以确保 AI 系统既符合确定的质量标准，也符合法案对高风险 AI 系统的监管要求。在一个汽车供应链示例中，展示了该方法的适用性，其中多个利益相关者相互作用以实现欧盟 AI 法案的合规性。

    Mar, 2024

  • AI 法案估计影响的数量研究

    对欧盟 AI 规则的初稿进行了分类，并与计算机科学和法律专家一起将其按照 AI 法案进行分类，表明需要更加明确具体的规定，并且只有大约 30％的 AI 系统被 AI 法案约束，其余分类为低风险。

    Mar, 2023

  • 欧洲对以人为中心技术的承诺：HCI 在欧盟 AI 法案成功中的关键作用

    人工智能的发展将深刻改变未来。欧盟已经颁布了《人工智能法案》，该法案以透明度、解释能力和人类理解和控制人工智能系统为重点，旨在保护民主和人道主义价值观，并推动人类中心的创新研究议程。人工智能系统评估方法的缺乏可能导致实施混乱，加重困惑。因此，人类与人工智能的相互作用的研究将对法规合规和人工智能进步至关重要，以确保人工智能的发展与人类价值和需求相一致，促进创新、负责任的技术发展，使其成为我们社会不可或缺的一部分。

    Feb, 2024

  • 风险导向的人工智能监管的风险：认真对待责任

    欧盟人工智能法案是一项基于风险的前瞻性监管方法，旨在预防某些有害结果，并提倡对数据质量和人工监督进行批判性检查；我们建议将责任视为主要监管机制，并区分潜在危害的内生和外生因素，通过合理分配开发者和使用者之间的责任来减轻风险。

    Nov, 2023