Mar, 2023

为可信 AI 野花监测平台定义质量要求

PDF
TL;DR本文利用一种质量模型，对一个深度学习平台进行实际案例的研究，以野花监测为例，提出了三种跟该平台相关的现实情景，通过分析数据，模型和软件，提出质量要求，最终目的是为 AI 工程师提供可信任的 AI 系统的最佳实践。
ai systemquality modeldeep learningwildflower monitoringtrustworthy
发现论文，激发创造
  • 机器学习系统的质量管理

    本文提出了一个基于现有进展的全面质量管理框架视角，并确定了软件工程研究的新领域，以实现更可靠的人工智能。

    Jun, 2020

  • 评估机器学习系统质量的指南

    本文根据工业实例构建了一种基于机器学习系统的质量模型，使从业者能够客观地规定和评估此类机器学习系统的质量要求。

    Aug, 2020

  • 可信人工智能指南 -- AI 评估目录

    人工智能（AI）在最近几年取得了显著进展，对经济和社会产生了重大影响。然而，仅当 AI 应用根据高质量标准开发并有效地防范新的 AI 风险时，AI 和基于其的商业模式才能充分发挥其潜力。此论文致力于解决 AI 应用可信度的问题，通过提供一个可信 AI 评估目录，旨在帮助开发人员和审计员以结构化的方式评估 AI 应用程序的可信度。

    Jun, 2023

  • 没有法规就没有信任！

    机器学习在工业系统中的应用以及其安全性和合规性对于决策辅助等关键功能具有重要意义，然而，当前机器学习组件的低形式化程度和不确定性使得使用传统的关键系统工程方法难以验证和验证其安全性，因此需要制定适用于人工智能的规范和监管标准，提出可信的人工智能认证方法和工具。

    Sep, 2023

  • 不要信任，总是验证：可信 AI 的路线图？

    本文对基于人工智能技术的系统的可验证性与数据存在的偏差问题进行了讨论，并提出了可信 AI 所需满足的一些属性和模型。

    Jun, 2022

  • 建立值得信赖的人工智能的关键：从 AI 原则，伦理，关键要求到负责任的 AI 系统和监管中去连接关系

    提出了可信人工智能的七个技术要求和三个主要支柱的构建方法，并考虑到了系统整个生命周期中的所有过程和角色的可信性。同样，还介绍了通过审核过程提高人工智能系统的责任的概念，以及为了未来社会进步而必须面对的规制辩论。

    May, 2023

  • QI2 数据质量保证的交互式工具

    高数据质量的重要性随着机器学习系统和大数据的影响和分布而增加。欧洲委员会提出的计划的 AI 法案特别针对与安全相关的机器学习系统的市场引入，定义了具有挑战性的数据质量法律要求。本文介绍了一种新的方法，支持多种数据质量方面的数据质量保证过程。该方法可以验证定量数据质量要求。通过小的示例数据集介绍和解释了该概念和好处。通过对著名的 MNIST 数据集进行基于手写数字的应用演示了该方法的应用。

    Jul, 2023

  • 建立可靠的基础模型开发 AI 应用

    深度学习模型信任度评估及保证，基于应用特定的风险评估方法，结合基础模型的特定风险，验证与确保基于基础模型开发的 AI 应用的信任度要求。

    May, 2024

  • AAAI FSS-19: 人性化人工智能：人工智能模型和数据的可信度研究论文集

    研究旨在提高人工智能系统的可信度和信任度，开发能够适应实际应用场景的人工智能系统，并将人类放在其中心地位，使其能够有效地使用系统，理解输出和解释结果以满足监管委员会的要求。

    Jan, 2020

  • 评估可信 AI 医学数据质量的 METRIC 框架：一项系统综述

    通过系统评估医学数据集合，我们提出了 METRIC 框架，该框架包含了 15 个数据质量意识维度，帮助减少偏见、增加稳健性、提高可解释性，从而为医学中可信赖的人工智能奠定了基础。

    Feb, 2024