Jul, 2024

AI审计：法律、伦理与技术方法

HTML
PDF
TL;DRAI审计是一个快速发展的研究和实践领域。本文综述了AI审计领域的先前工作，指出了三个关键点:历史上已有领域（如财务会计、安全工程和社会科学）中审计的结构和执行方式对现代审计AI系统有所借鉴；政策制定者和技术提供商都对将审计作为AI治理机制感兴趣；AI审计是一个多学科的任务，计算机科学家、工程师、社会科学家、哲学家、法学学者和行业从业者都作出了重要贡献。实现结构化和整体化程序的下一步将是将这些可用（并相互补充的）方法相互关联，审计不仅关注AI系统的设计和使用，还关注其在应用场景中随时间对用户、社会和自然环境的影响。
发现论文，激发创造
  • 算法审核、算法与法律

    本文着重讨论两种标准的黑盒算法审计形式：第一种审计形式（命名为Bobby审计形式）检查算法的谓词，而第二种审计形式（Sherlock）则更松散地进行多项调查，为结构化黑盒算法审计领域与法律的关系提供了关键见解

    Feb, 2022

  • 大规模语言模型审计：三层方法

    本文阐述了大规模语言模型(LLMs) 的崛起代表了人工智能(AI) 研究的重大进展，但是其广泛应用也带来了重大的伦理和社会挑战，需要开发新的审计程序来捕捉LLMs的风险。提出了一种三层审计方法，和其优缺点，并最终旨在扩展技术提供商和政策制定者的方法学工具箱来分析和评估LLMs。

    Feb, 2023

  • 建立值得信赖的人工智能的关键：从AI原则，伦理，关键要求到负责任的AI系统和监管中去连接关系

    提出了可信人工智能的七个技术要求和三个主要支柱的构建方法，并考虑到了系统整个生命周期中的所有过程和角色的可信性。同样，还介绍了通过审核过程提高人工智能系统的责任的概念，以及为了未来社会进步而必须面对的规制辩论。

    May, 2023

  • 推进AI审计以加强AI治理

    人工智能服务和系统的审计问题及其促进良好人工智能治理的三项建议。

    Nov, 2023

  • 填补监管漏洞：构建欧盟AI审计生态系统——在AIA之外引入民间社会

    审查了欧洲立法机构提出的数字服务法案（DSA）和人工智能法案（AIA），发现AIA缺乏为研究人员和公民社会提供数据访问的监管机制，因此呼吁DSA和AIA的修改和补充以提供第三方审计和数据访问，以建立促进合规和监督机制的人工智能审计生态系统。

    Feb, 2024

  • 人工智能审计标准委员会的必要性

    建立AI审计标准委员会以开发和更新与AI技术发展相适应的审计方法和标准，以确保审核实践保持相关、健壮并能对AI的快速进展做出响应，此举有助于维护公众对AI的信任，促进AI行业的安全和伦理责任文化的发展。

    Apr, 2024

  • 务实审计：面向机器学习系统的驱动式审计方法

    机器学习系统的采用和部署引发了伦理事件和社会关注，需要有准确的伦理准则来审计这些系统，我们提出了一个基于机器学习生命周期的审计程序，以透明性和问责制为中心，并扩展了欧洲委员会发布的AI-HLEG指南，通过两个真实用例的试点测试，我们讨论了机器学习算法审计的不足之处和未来的发展方向。

    May, 2024

  • 算法审计的法律与新兴政治经济

    本文系统回顾DSA和OSA的审核规定，并探讨了算法审核的新兴政治经济格局和传统审计师可能对该领域产生的风险。

    Apr, 2024

  • 生成式AI审计的蓝图

    现有的审计程序无法解决生成式人工智能系统所带来的治理挑战，本章提出了一种新的审计方法，即通过三层次的审计（技术提供商的治理审计、预训练后但发布之前的模型审计和基于生成式人工智能系统的应用审计）相互补充和促进，来发现和管理生成式人工智能系统所带来的一些道德和社会风险，对于技术提供商和政策制定者从技术、道德和法律角度分析和评估生成式人工智能系统具有重要意义。

    Jul, 2024

  • 开关、梯子和矩阵：用于分类人工智能系统的模型

    通过对之前的分类AI系统的尝试进行回顾和比较，本文提出了三种思维模型，包括二元法、风险法和多维度法，用以帮助组织在设计、部署或监管AI系统时实现操作性的AI治理。

    Jul, 2024