May, 2023

建立值得信赖的人工智能的关键：从 AI 原则，伦理，关键要求到负责任的 AI 系统和监管中去连接关系

PDF
TL;DR提出了可信人工智能的七个技术要求和三个主要支柱的构建方法，并考虑到了系统整个生命周期中的所有过程和角色的可信性。同样，还介绍了通过审核过程提高人工智能系统的责任的概念，以及为了未来社会进步而必须面对的规制辩论。
发现论文，激发创造
  • 值得信赖的人工智能：计算视角

    本文从计算的角度综述了 AI 可信赖性的最新技术，其中包含了六个方面：安全、非歧视与公平、可解释性、隐私、责任与审计能力以及环境福祉，旨在帮助读者理解可信赖 AI 的最新技术以及现实系统的应用。

    Jul, 2021

  • 不要信任，总是验证：可信 AI 的路线图？

    本文对基于人工智能技术的系统的可验证性与数据存在的偏差问题进行了讨论，并提出了可信 AI 所需满足的一些属性和模型。

    Jun, 2022

  • 可信 AI 之旅 - 第一部分：实用框架的追求

    本研究综述了值得信赖的人工智能（TAI）及其各种定义，提出了离开支配和工程语境中的责任或伦理人工智能等术语以明确任何混淆的建议，并强调了公平性、偏见、风险、安全性、可解释性和可靠性等关键属性和特性以发展一个普遍框架来处理这些问题，同时考虑了欧盟、中国和美国在 AI 领域的政策和法规以及跨国公司面临的调整挑战，提出了一个新的框架 SFMA 来执行 TAI 和规范化措施，同时警示过度规制对 TAI 和技术创新可能造成的危害。

    Mar, 2024

  • 谁可以信任，如何以及为什么：揭开人工智能伦理原则、可信度与信任的藪蛮

    整理了有关人工智能信任和人工智能的可信度的文献概述，强调了需要更明确区分这些概念并获取更多实证证据以了解人们信任行为的要素。指出对人工智能的信任不仅涉及对系统本身的依赖，还包括对人工智能开发者的信任。伦理原则如可解释性和透明性通常被认为能提高用户的信任，但关于这些特点如何实际影响用户对系统可信度认知的实证证据并不丰富或不太明确。应将人工智能系统视为社会技术系统，设计、开发、部署和使用系统的人员与系统本身一样重要，才能确定系统是否值得信任。忽视这些细微差别，人工智能的信任和可信度有可能成为针对任何人工智能系统的模糊术语。

    Sep, 2023

  • 为开发更可信赖的自主系统建议重视 RE

    该论文关注了 COMPLYING WITH THE EU AI Act 准则并开发实施 AI 系统的情况，分析了不同伦理准则的文献细节、伦理 AI 框架的适用性等问题，提出了伦理 AI 的限制以及进行可靠的 AI 开发的建议

    May, 2023

  • 负责任的人工智能 -- 从原则到实践

    人工智能的应用不仅依赖基础研究和技术发展，更需要关注其公平性、透明度和隐私问题。为了确保 AI 的合理应用，我们需要制定技术、社会、制度和法律方法和工具，提高所有人的参与度和意识，确保 AI 系统与我们社会的原则和价值观一致。

    May, 2022

  • 可信人工智能指南 -- AI 评估目录

    人工智能（AI）在最近几年取得了显著进展，对经济和社会产生了重大影响。然而，仅当 AI 应用根据高质量标准开发并有效地防范新的 AI 风险时，AI 和基于其的商业模式才能充分发挥其潜力。此论文致力于解决 AI 应用可信度的问题，通过提供一个可信 AI 评估目录，旨在帮助开发人员和审计员以结构化的方式评估 AI 应用程序的可信度。

    Jun, 2023

  • 人工智能的信任：进展、挑战与未来方向

    人工智能在我们的日常生活中越来越广泛地使用，尤其在各种应用、服务和产品中。因此，从用户角度来看，对人工智能的信任或不信任变得非常重要。这篇论文通过系统文献综述，探讨了当前人工智能领域的信任概念，并研究了不同类型的人机交互中的信任以及其对不同领域的技术接受度的影响。此外，还提出了技术和非技术的可信度指标以及一些可信度衡量标准，并分析了一些人工智能中的主要破坏因素和信任建立因素，并为实现可信度从而实现人工智能的可靠过渡提出了一些未来的方向和可能的解决方案。

    Mar, 2024

  • 信任 AI 与可信机器学习技术之间的关系

    本研究提供了一种系统的方法来将社会科学信任概念与建立在人工智能服务和产品上使用的机器学习技术相关联，探讨了四种类别的机器学习技术 (公平性、可解释性、可审计性和安全性) 如何影响人们的信任，并介绍了在 AI 系统生命周期的不同阶段建立信任的技术需求。

    Nov, 2019

  • 负责任的人工智能：一项结构化文献综述

    我们的研究旨在推进负责任的人工智能（AI）的概念，这是欧盟政策讨论中日益重要的主题。我们提出了一种全面且目前为止我们所知的第一个负责任 AI 的统一定义。通过结构化文献综述，我们阐明了关于负责任 AI 的当前理解，并基于该分析提出了未来以此概念为中心的框架发展方法。我们的发现支持以人为中心的负责任 AI 方法，其中包括以伦理、模型可解释性以及隐私、安全和信任为支柱的 AI 方法的实施。

    Mar, 2024