Jul, 2023

计算机系统中的不透明度源：朝着一个全面的分类法

PDF
TL;DR现代计算机系统在当代生活中无处不在，但其中许多系统仍然不透明。我们认为实现系统透明性的最佳策略因特定上下文中普遍存在的不透明性来源而异。通过综合和扩展现有讨论，我们提出了一个包含八个不透明性来源的分类体系，分为三个主要类别：架构、分析和社会技术。对于每个来源，我们提供了初步的建议以解决实践中导致的不透明性。该分类体系为需求工程师和其他从业人员提供了一个起点，以了解具有上下文普遍性的不透明性来源，并选择或开发适当的克服策略。
发现论文，激发创造
  • 透明度：动机与挑战

    智能系统透明度对于有效的实际应用具有重要意义，但不同类型透明度的动机和效益由具体情境决定，难以确定客观测量标准。我们提供了一个简要的调查，阐述了挑战及相关担忧。我们重点关注和审查了透明度可能导致伤害的情景，并讨论了隐私、多智能体博弈论、经济、公平性和信任之间的联系。

    Jul, 2017

  • 照古镜：企业 AI 知识系统的透明度意义与挑战

    人工智能知识系统与透明度的挑战，包括知识与人的关联性，对组织和个体视野的影响，以及系统透明度、程序透明度和结果透明度等方面，需要引起进一步研究和关注。

    Jan, 2024

  • 人工智能、透明度和个人自主权

    使用机器学习的 AI 决策算法越来越普及，在诸如保释听证会、医疗诊断和招聘过程中使用。本文旨在通过探讨透明度和不透明性的因果解释，以及最近有关因果解释价值的工作，为算法的不透明性提出了一个道德关注点：当这些算法用于改变人们生活的决策时，它们会妨碍我们根据我们的目标和偏好有效地塑造自己的生活，从而削弱我们的自主权。作者认为这个问题值得密切关注，因为它为算法决策中的透明度提供了新的工具和新的挑战。

    Sep, 2022

  • 透明度、隐晦性和问题提出的几何学

    本文研究问题的难度，并指出模糊性与稀有性两个维度影响问题回答的难度，同时发现问题复杂度、答案网络密度、线索交叉性及信号词的存在也会影响问题的难度。同时，通过本文的研究成果，指导个体在提问和学习过程中跨越领域困难，增强理解。

    Sep, 2018

  • 实现人工智能功能透明度与有意义的可解释性之路

    人工智能的功能透明性在透明系统中遵守设计框架中成为关键挑战，要求跨学科合作来推进透明和可解释的人工智能系统的发展。

    Oct, 2023

  • 解释黑匣子模型方法综述

    本文提供了关于黑盒决策系统和可解释性的分类，以及开放式黑盒模型的方法，帮助研究者找到适合自己工作的提案，并对许多研究开放性问题有所启发。

    Feb, 2018

  • 结构透明度：超越隐私权衡

    本文概述了当今为实现 “结构透明” 而进行的研究的前沿，提供了一个概括性的理论框架和词汇，包括表征基本组件 - 输入隐私、输出隐私、输入验证、输出验证和流程治理 - 以及复制、捆绑和递归监督等基本问题，并论证了最近随着 “隐私增强技术” 的发展，如安全计算和联邦学习，可以在许多领域显着减少潜在的使用 - 滥用的权衡。本文最后给出了结构透明的几个应用示例，包括开放式研究、能源管理和信用评分系统，并讨论了这些工具被滥用的风险。

    Dec, 2020

  • 用户是 AI 透明度的北极星

    本文中，我们阐述了明确的 AI 透明度目标，即以用户为中心、恰当的透明度和诚实的透明度。我们进行了广泛的文献调查，将透明度概念的许多相似聚类与我们的目标联系起来，以便政策制定者、利益相关者和从业者能够交流具体需求和提供适当的解决方案。

    Mar, 2023

  • AI 教育透明度指数框架

    本论文提出了一个透明度指数框架，着眼于透明的人工智能教育系统在数据收集、实现职责和安全性等方面的实现，并展示了透明度如何实现其他如可解释性和责任方面的道德人工智能纬度。

    May, 2022

  • 人机系统可解释性

    介绍人 - 智能体系统中可解释性的分类法，并回答了解释性以及相关术语 (包括可解释性、透明度、明确性和一致性) 背后的基本问题，包括为什么需要解释性，对谁需要解释和可以生成什么解释来满足这种需求，并考虑什么时候应该向用户呈现这些信息以及如何使用客观和主观的措施来评估整个系统。

    Apr, 2019