Jun, 2024

计量环境下的可信人工智能

PDF
TL;DR国家物理实验室 (NPL) 在可信人工智能 (TAI) 领域进行的研究回顾，特别是在计量学，即测量科学的背景下，关于可信机器学习 (TML)。我们描绘了 TAI 的三个广泛主题：技术、社会技术和社会，这些主题在确保开发的模型可信且可以依赖于做出负责任决策方面起着关键作用。从计量学的角度，我们强调对不确定性的量化（UQ）及其在 TAI 框架中的重要性，以提高人工智能系统输出的透明度和信任度。然后，我们讨论了 NPL 在 TAI 中正在开展的三个研究领域，并探讨了 AI 系统认证与 TAI 特征的符合性。
trustworthy artificial intelligencetrustworthy machine learningmetrologyuncertainty quantificationcertification of ai systems
发现论文，激发创造
  • 值得信赖的人工智能的调查、分类和未来方向：战略决策的元决策

    提出信任 AI 系统是一个元决策的过程，针对不透明的 AI “黑匣子” 提出了 TAI 的新的分类法，涵盖了解释性，权威性和基础三个关键领域，并建立了十个维度来度量信任。旨在通过这个分类法，从战略决策的角度探索不同的 TAI 方法。

    Jun, 2023

  • 不要信任，总是验证：可信 AI 的路线图？

    本文对基于人工智能技术的系统的可验证性与数据存在的偏差问题进行了讨论，并提出了可信 AI 所需满足的一些属性和模型。

    Jun, 2022

  • 可信 AI 之旅 - 第一部分：实用框架的追求

    本研究综述了值得信赖的人工智能（TAI）及其各种定义，提出了离开支配和工程语境中的责任或伦理人工智能等术语以明确任何混淆的建议，并强调了公平性、偏见、风险、安全性、可解释性和可靠性等关键属性和特性以发展一个普遍框架来处理这些问题，同时考虑了欧盟、中国和美国在 AI 领域的政策和法规以及跨国公司面临的调整挑战，提出了一个新的框架 SFMA 来执行 TAI 和规范化措施，同时警示过度规制对 TAI 和技术创新可能造成的危害。

    Mar, 2024

  • 可信人工智能指南 -- AI 评估目录

    人工智能（AI）在最近几年取得了显著进展，对经济和社会产生了重大影响。然而，仅当 AI 应用根据高质量标准开发并有效地防范新的 AI 风险时，AI 和基于其的商业模式才能充分发挥其潜力。此论文致力于解决 AI 应用可信度的问题，通过提供一个可信 AI 评估目录，旨在帮助开发人员和审计员以结构化的方式评估 AI 应用程序的可信度。

    Jun, 2023

  • 可信机器学习

    机器学习的可信度问题，主要关注可信机器学习、越界泛化、可解释性、不确定性量化和可信度评估等领域研究。

    Oct, 2023

  • 面向用户为中心的沉浸式虚拟环境可信人工智能度量

    本研究探讨了现有方法对于以用户为中心的服务生态系统中 AI 信任度评估的适用性，并提出了一种面向系统化且以用户为中心的值得信赖的 AI 研究议程。

    Feb, 2022

  • 信任 AI 与可信机器学习技术之间的关系

    本研究提供了一种系统的方法来将社会科学信任概念与建立在人工智能服务和产品上使用的机器学习技术相关联，探讨了四种类别的机器学习技术 (公平性、可解释性、可审计性和安全性) 如何影响人们的信任，并介绍了在 AI 系统生命周期的不同阶段建立信任的技术需求。

    Nov, 2019

  • 建立值得信赖的人工智能的关键：从 AI 原则，伦理，关键要求到负责任的 AI 系统和监管中去连接关系

    提出了可信人工智能的七个技术要求和三个主要支柱的构建方法，并考虑到了系统整个生命周期中的所有过程和角色的可信性。同样，还介绍了通过审核过程提高人工智能系统的责任的概念，以及为了未来社会进步而必须面对的规制辩论。

    May, 2023

  • 机器学习系统的质量管理

    本文提出了一个基于现有进展的全面质量管理框架视角，并确定了软件工程研究的新领域，以实现更可靠的人工智能。

    Jun, 2020

  • 人工智能计量学：从基准测试到仪器

    本文旨在将计量科学应用于人力（群体）评估中，以加强测量人工智能系统性能的科学，并以词汇相似性基准 WS353 和先前发布的使用它进行评估的实验为例，采用计量学来对基准数据集进行基准测试。

    Nov, 2019