May, 2023

可信 AI 的认证标签：基于实证混合方法研究的见解

PDF
TL;DR通过对规模为 12 和 302 的访谈和代表普通大众的调查，研究了认证标签在低和高风险 AI 场景中传达可信度方面的表现；结果表明，认证标签可以显著增加终端用户在低和高风险情景下使用 AI 的信任和意愿，但在高风险情景下，终端用户对认证标签的偏好及其对信任和使用 AI 的影响更加显著。
发现论文，激发创造
  • 针对 AI 系统的负责任信任设计：以传播视角为基础

    通过建立 MATCH 模型，本文探讨了如何在人工智能系统中通过可信度提示进行信任建立，强调透明度和互动等技术的重要性，提出了技术设计者需要意识到用户认知过程和其潜在局限性以选择可靠的可信度提示，并定义适当的提示标准及开销，鼓励相关行业规范技术应用和预防恶意行为。

    Apr, 2022

  • 可信人工智能指南 -- AI 评估目录

    人工智能（AI）在最近几年取得了显著进展，对经济和社会产生了重大影响。然而，仅当 AI 应用根据高质量标准开发并有效地防范新的 AI 风险时，AI 和基于其的商业模式才能充分发挥其潜力。此论文致力于解决 AI 应用可信度的问题，通过提供一个可信 AI 评估目录，旨在帮助开发人员和审计员以结构化的方式评估 AI 应用程序的可信度。

    Jun, 2023

  • 不要信任，总是验证：可信 AI 的路线图？

    本文对基于人工智能技术的系统的可验证性与数据存在的偏差问题进行了讨论，并提出了可信 AI 所需满足的一些属性和模型。

    Jun, 2022

  • 信任 AI 与可信机器学习技术之间的关系

    本研究提供了一种系统的方法来将社会科学信任概念与建立在人工智能服务和产品上使用的机器学习技术相关联，探讨了四种类别的机器学习技术 (公平性、可解释性、可审计性和安全性) 如何影响人们的信任，并介绍了在 AI 系统生命周期的不同阶段建立信任的技术需求。

    Nov, 2019

  • 人工智能的信任与其在人工智能技术接受中的角色

    本论文探讨了信任对使用人工智能技术意图的影响，结果显示信任通过感知有用性和使用者对助手的态度影响了使用意图，功能相关的信任对使用意图的影响大于人类的信任，在 AI 相关应用中，信任对技术的接受起着重要的作用，并提供了可用于未来研究的基于多维度的信任度量方法。

    Mar, 2022

  • 人工智能的信任：进展、挑战与未来方向

    人工智能在我们的日常生活中越来越广泛地使用，尤其在各种应用、服务和产品中。因此，从用户角度来看，对人工智能的信任或不信任变得非常重要。这篇论文通过系统文献综述，探讨了当前人工智能领域的信任概念，并研究了不同类型的人机交互中的信任以及其对不同领域的技术接受度的影响。此外，还提出了技术和非技术的可信度指标以及一些可信度衡量标准，并分析了一些人工智能中的主要破坏因素和信任建立因素，并为实现可信度从而实现人工智能的可靠过渡提出了一些未来的方向和可能的解决方案。

    Mar, 2024

  • 自动化评估文本处理服务的可信度的进展

    基于食品行业中营养标签的成功，本文旨在评估和评级 AI 服务的用户信任度，并提出了面向现实世界场景如健康和食品建议的原则性、多模式、因果关系评级方法的挑战和远景。

    Feb, 2023

  • 走向可信的 AI 开发：支持可验证声明的机制

    本报告探讨了不同利益相关者所能采取的各种措施，以改善人工智能系统及其相关开发过程的安全性、公正性、隐私保护等方面的证明，分析了十种机制，并提出了旨在实施、探索或改进这些机制的建议。

    Apr, 2020

  • AI-Enabled 系统中用户信任的系统文献综述：以人机交互为视角

    对用户信任、影响因素和测量方法进行的 23 个实证研究的综述确认了定义信任的多种方法和用户特征对 AI 启用系统中的信任产生的影响等主题，从而为未来技术和设计策略、研究和举措提供了洞察。

    Apr, 2023

  • 没有法规就没有信任！

    机器学习在工业系统中的应用以及其安全性和合规性对于决策辅助等关键功能具有重要意义，然而，当前机器学习组件的低形式化程度和不确定性使得使用传统的关键系统工程方法难以验证和验证其安全性，因此需要制定适用于人工智能的规范和监管标准，提出可信的人工智能认证方法和工具。

    Sep, 2023