Mar, 2024

可信 AI 之旅 - 第一部分：实用框架的追求

PDF
TL;DR本研究综述了值得信赖的人工智能（TAI）及其各种定义，提出了离开支配和工程语境中的责任或伦理人工智能等术语以明确任何混淆的建议，并强调了公平性、偏见、风险、安全性、可解释性和可靠性等关键属性和特性以发展一个普遍框架来处理这些问题，同时考虑了欧盟、中国和美国在 AI 领域的政策和法规以及跨国公司面临的调整挑战，提出了一个新的框架 SFMA 来执行 TAI 和规范化措施，同时警示过度规制对 TAI 和技术创新可能造成的危害。
trustworthy artificial intelligencetairegulationsframeworkrisk
发现论文，激发创造
  • 建立值得信赖的人工智能的关键：从 AI 原则，伦理，关键要求到负责任的 AI 系统和监管中去连接关系

    提出了可信人工智能的七个技术要求和三个主要支柱的构建方法，并考虑到了系统整个生命周期中的所有过程和角色的可信性。同样，还介绍了通过审核过程提高人工智能系统的责任的概念，以及为了未来社会进步而必须面对的规制辩论。

    May, 2023

  • 值得信赖的人工智能的调查、分类和未来方向：战略决策的元决策

    提出信任 AI 系统是一个元决策的过程，针对不透明的 AI “黑匣子” 提出了 TAI 的新的分类法，涵盖了解释性，权威性和基础三个关键领域，并建立了十个维度来度量信任。旨在通过这个分类法，从战略决策的角度探索不同的 TAI 方法。

    Jun, 2023

  • 可信人工智能：决定何时决策

    利用创新的可信人工智能（TAI）框架，通过结合 AI 的三个关键组成部分：表示空间、损失函数和优化器，以及十二个 TAI 属性，来解决决策制定中信息可信性的难题。该框架被用于实验，在科技行业的战略性投资决策中，应用给定数据集训练出的最优预测模型。研究者还展望了 TAI 研究的未来方向。

    Nov, 2023

  • 为开发更可信赖的自主系统建议重视 RE

    该论文关注了 COMPLYING WITH THE EU AI Act 准则并开发实施 AI 系统的情况，分析了不同伦理准则的文献细节、伦理 AI 框架的适用性等问题，提出了伦理 AI 的限制以及进行可靠的 AI 开发的建议

    May, 2023

  • 可信人工智能指南 -- AI 评估目录

    人工智能（AI）在最近几年取得了显著进展，对经济和社会产生了重大影响。然而，仅当 AI 应用根据高质量标准开发并有效地防范新的 AI 风险时，AI 和基于其的商业模式才能充分发挥其潜力。此论文致力于解决 AI 应用可信度的问题，通过提供一个可信 AI 评估目录，旨在帮助开发人员和审计员以结构化的方式评估 AI 应用程序的可信度。

    Jun, 2023

  • 不要信任，总是验证：可信 AI 的路线图？

    本文对基于人工智能技术的系统的可验证性与数据存在的偏差问题进行了讨论，并提出了可信 AI 所需满足的一些属性和模型。

    Jun, 2022

  • 负责任人工智能框架的快速综述：引导道德人工智能的发展

    简要介绍了几个提供负责人工智能应用程序的框架，发现大多数框架仅适用于需求调查阶段，仅有一些私人公司提供了支持工具。结果表明，还缺乏一个全面的框架，该框架包含所有负责人工智能的原则和所有 SDLC 阶段，并可由不同技能集和不同目标的用户浏览。

    Jun, 2023

  • 值得信赖的人工智能：计算视角

    本文从计算的角度综述了 AI 可信赖性的最新技术，其中包含了六个方面：安全、非歧视与公平、可解释性、隐私、责任与审计能力以及环境福祉，旨在帮助读者理解可信赖 AI 的最新技术以及现实系统的应用。

    Jul, 2021

  • 迈向负责任的人工智能开发生命周期：来自信息安全的启示

    提出了一个框架，将信息安全领域和安全开发生命周期的概念应用到人工智能系统的开发中，以解决公正度、可解释性和科技伦理等方面的问题。

    Mar, 2022

  • 风险导向的人工智能监管的风险：认真对待责任

    欧盟人工智能法案是一项基于风险的前瞻性监管方法，旨在预防某些有害结果，并提倡对数据质量和人工监督进行批判性检查；我们建议将责任视为主要监管机制，并区分潜在危害的内生和外生因素，通过合理分配开发者和使用者之间的责任来减轻风险。

    Nov, 2023