Jan, 2020

关闭 AI 责任缺口：定义一个端到端框架用于内部算法审计

PDF
TL;DR本文介绍了一种算法审计框架，可支持人工智能系统从开发到部署的全生命周期，以评估决策的符合情况并通过确保审计的完整性来填补开发和部署大规模人工智能系统的问责制鸿沟。
algorithmic auditingartificial intelligencesocietal implicationsaccountability gapsystem deployment
发现论文，激发创造
  • 面向公共政策的基于人工智能决策的系统卡片

    该研究分析了算法的问题，提出了一种系统的审计框架和分数卡，以解决人工智能决策辅助系统在精确度方面的透明度与公正问题。

    Mar, 2022

  • 人工智能审计标准委员会的必要性

    建立 AI 审计标准委员会以开发和更新与 AI 技术发展相适应的审计方法和标准，以确保审核实践保持相关、健壮并能对 AI 的快速进展做出响应，此举有助于维护公众对 AI 的信任，促进 AI 行业的安全和伦理责任文化的发展。

    Apr, 2024

  • 推进 AI 审计以加强 AI 治理

    人工智能服务和系统的审计问题及其促进良好人工智能治理的三项建议。

    Nov, 2023

  • 填补监管漏洞：构建欧盟 AI 审计生态系统 —— 在 AIA 之外引入民间社会

    审查了欧洲立法机构提出的数字服务法案（DSA）和人工智能法案（AIA），发现 AIA 缺乏为研究人员和公民社会提供数据访问的监管机制，因此呼吁 DSA 和 AIA 的修改和补充以提供第三方审计和数据访问，以建立促进合规和监督机制的人工智能审计生态系统。

    Feb, 2024

  • 适合工作的工具：机器学习中的开源审计工具

    本文强调了在机器学习中使用公平性、责任性、透明度和伦理 (FATE) 工具的紧迫性，并提供了使用开源工具的动机。

    Jun, 2022

  • 迈向负责任的人工智能开发生命周期：来自信息安全的启示

    提出了一个框架，将信息安全领域和安全开发生命周期的概念应用到人工智能系统的开发中，以解决公正度、可解释性和科技伦理等方面的问题。

    Mar, 2022

  • 负责任人工智能框架的快速综述：引导道德人工智能的发展

    简要介绍了几个提供负责人工智能应用程序的框架，发现大多数框架仅适用于需求调查阶段，仅有一些私人公司提供了支持工具。结果表明，还缺乏一个全面的框架，该框架包含所有负责人工智能的原则和所有 SDLC 阶段，并可由不同技能集和不同目标的用户浏览。

    Jun, 2023

  • 机器学习数据集的问责性：源于软件工程和基础设施的实践

    通过严格的数据集开发透明度框架，从软件开发生命周期中提取最佳实践，以决策和问责支持来关闭人工智能系统中的问责差距。

    Oct, 2020

  • 基于人工智能组件的系统的网络安全风险分析框架

    该研究提供了一个网络安全风险分析框架来评估带有人工智能组件的系统，以满足欧盟人工智能法、NIST 人工智能风险管理框架以及相关规范的要求，并使用自动驾驶系统的示例进行说明。

    Jan, 2024

  • 可信 AI 之旅 - 第一部分：实用框架的追求

    本研究综述了值得信赖的人工智能（TAI）及其各种定义，提出了离开支配和工程语境中的责任或伦理人工智能等术语以明确任何混淆的建议，并强调了公平性、偏见、风险、安全性、可解释性和可靠性等关键属性和特性以发展一个普遍框架来处理这些问题，同时考虑了欧盟、中国和美国在 AI 领域的政策和法规以及跨国公司面临的调整挑战，提出了一个新的框架 SFMA 来执行 TAI 和规范化措施，同时警示过度规制对 TAI 和技术创新可能造成的危害。

    Mar, 2024