Mar, 2023

用户是 AI 透明度的北极星

PDF
TL;DR本文中，我们阐述了明确的 AI 透明度目标，即以用户为中心、恰当的透明度和诚实的透明度。我们进行了广泛的文献调查，将透明度概念的许多相似聚类与我们的目标联系起来，以便政策制定者、利益相关者和从业者能够交流具体需求和提供适当的解决方案。
artificial intelligencetransparencypolicyuser-centeredliterature survey
发现论文，激发创造
  • 实现人工智能功能透明度与有意义的可解释性之路

    人工智能的功能透明性在透明系统中遵守设计框架中成为关键挑战，要求跨学科合作来推进透明和可解释的人工智能系统的发展。

    Oct, 2023

  • 照古镜：企业 AI 知识系统的透明度意义与挑战

    人工智能知识系统与透明度的挑战，包括知识与人的关联性，对组织和个体视野的影响，以及系统透明度、程序透明度和结果透明度等方面，需要引起进一步研究和关注。

    Jan, 2024

  • LLMs 时代的人类中心研究路线：人工智能透明度

    在大型语言模型与透明度的讨论中，我们必须考虑不同利益相关者在不同情境下的需求，并构建在人们处理、交互和使用信息方面所了解的经验基础上的透明度方法，这是一篇关于应对 LLM 这个新时代带来的人工智能透明度挑战的文章.

    Jun, 2023

  • AI 教育透明度指数框架

    本论文提出了一个透明度指数框架，着眼于透明的人工智能教育系统在数据收集、实现职责和安全性等方面的实现，并展示了透明度如何实现其他如可解释性和责任方面的道德人工智能纬度。

    May, 2022

  • 透明度：动机与挑战

    智能系统透明度对于有效的实际应用具有重要意义，但不同类型透明度的动机和效益由具体情境决定，难以确定客观测量标准。我们提供了一个简要的调查，阐述了挑战及相关担忧。我们重点关注和审查了透明度可能导致伤害的情景，并讨论了隐私、多智能体博弈论、经济、公平性和信任之间的联系。

    Jul, 2017

  • 设计理解：支持使用 AI 提升用户体验的设计构思的模型透明度所需的信息

    该研究探讨了透明性模型报告框架是否能够支持预训练模型的设计构思，并确定了 UX 设计师在预训练模型的理解方面需要透明性信息。

    Feb, 2023

  • 扩展可解释性：AI 系统的社会透明度

    介绍和探索社交透明度 (ST) 的概念，该概念将社会组织背景融入到解释人工智能决策的过程中，旨在提高人工智能决策的信任度、改善决策过程、促进组织集体行动和增强说服力。

    Jan, 2021

  • 战略机器学习中的透明度成本

    本文研究了算法的透明度对算法设计者的成本的影响，进而探究了用户的策略意图对透明机器学习算法设计和性能的影响，通过建模用户和设计者之间的零和博弈，量化了透明性带来的成本，设定成为透明代价。

    Oct, 2016

  • 可解释人工智能中的利益相关者

    本文旨在阐明 AI 与机器学习系统的解释和可解释性的概念及其区别，并通过验证 / 确认的角度和已知 / 未知的分工，探讨相关利益相关方的关切和需求。

    Sep, 2018

  • 谁可以信任，如何以及为什么：揭开人工智能伦理原则、可信度与信任的藪蛮

    整理了有关人工智能信任和人工智能的可信度的文献概述，强调了需要更明确区分这些概念并获取更多实证证据以了解人们信任行为的要素。指出对人工智能的信任不仅涉及对系统本身的依赖，还包括对人工智能开发者的信任。伦理原则如可解释性和透明性通常被认为能提高用户的信任，但关于这些特点如何实际影响用户对系统可信度认知的实证证据并不丰富或不太明确。应将人工智能系统视为社会技术系统，设计、开发、部署和使用系统的人员与系统本身一样重要，才能确定系统是否值得信任。忽视这些细微差别，人工智能的信任和可信度有可能成为针对任何人工智能系统的模糊术语。

    Sep, 2023