Sep, 2021

重建信任：AI 中的酷儿方式应对人工智能风险管理

PDF
TL;DR构建可信人工智能的首要任务是按照女性主义、非剥削的参与式设计原则，并强化外部公正的持续监测和测试。要想构建可信任的人工智能，还需要考虑公正与权利不均；支持组织，如 AI 中的酷儿组织，以确保人工智能领域的多样性和包容性；并考虑使用酷儿身份等性别因素构建 AI 数据集的优势及相应的伤害补救方案，并提出关于性别多样性和隐私、酷儿数据保护的政策框架。
trustworthy aifeminist design principlesparticipatory designqueer identitydata protection
发现论文，激发创造
  • Queer In AI：社区参与人工智能的案例研究

    通过 Queer in AI 的案例研究，我们探讨参与式设计和交叉性原则是如何塑造该社区项目的，并从中挖掘了重要的教训和见解，这些教训和见解为 AI 的参与式方法论和社群参与作出了贡献。

    Mar, 2023

  • 关于未观测特征的公正性：关于技术对酷儿社群影响的洞见

    本文探讨了算法公平性在关注性取向和性别认同方面的不足，研究了人工智能对酷儿社群的正面和负面影响，强调了需要开发新的算法公平性方法来解决未被观测到的特征，如性取向和性别认同。

    Feb, 2021

  • 不要信任，总是验证：可信 AI 的路线图？

    本文对基于人工智能技术的系统的可验证性与数据存在的偏差问题进行了讨论，并提出了可信 AI 所需满足的一些属性和模型。

    Jun, 2022

  • 值得信赖的人工智能：计算视角

    本文从计算的角度综述了 AI 可信赖性的最新技术，其中包含了六个方面：安全、非歧视与公平、可解释性、隐私、责任与审计能力以及环境福祉，旨在帮助读者理解可信赖 AI 的最新技术以及现实系统的应用。

    Jul, 2021

  • 信任 AI 与可信机器学习技术之间的关系

    本研究提供了一种系统的方法来将社会科学信任概念与建立在人工智能服务和产品上使用的机器学习技术相关联，探讨了四种类别的机器学习技术 (公平性、可解释性、可审计性和安全性) 如何影响人们的信任，并介绍了在 AI 系统生命周期的不同阶段建立信任的技术需求。

    Nov, 2019

  • 谁可以信任，如何以及为什么：揭开人工智能伦理原则、可信度与信任的藪蛮

    整理了有关人工智能信任和人工智能的可信度的文献概述，强调了需要更明确区分这些概念并获取更多实证证据以了解人们信任行为的要素。指出对人工智能的信任不仅涉及对系统本身的依赖，还包括对人工智能开发者的信任。伦理原则如可解释性和透明性通常被认为能提高用户的信任，但关于这些特点如何实际影响用户对系统可信度认知的实证证据并不丰富或不太明确。应将人工智能系统视为社会技术系统，设计、开发、部署和使用系统的人员与系统本身一样重要，才能确定系统是否值得信任。忽视这些细微差别，人工智能的信任和可信度有可能成为针对任何人工智能系统的模糊术语。

    Sep, 2023

  • 建立值得信赖的人工智能的关键：从 AI 原则，伦理，关键要求到负责任的 AI 系统和监管中去连接关系

    提出了可信人工智能的七个技术要求和三个主要支柱的构建方法，并考虑到了系统整个生命周期中的所有过程和角色的可信性。同样，还介绍了通过审核过程提高人工智能系统的责任的概念，以及为了未来社会进步而必须面对的规制辩论。

    May, 2023

  • 可信人工智能指南 -- AI 评估目录

    人工智能（AI）在最近几年取得了显著进展，对经济和社会产生了重大影响。然而，仅当 AI 应用根据高质量标准开发并有效地防范新的 AI 风险时，AI 和基于其的商业模式才能充分发挥其潜力。此论文致力于解决 AI 应用可信度的问题，通过提供一个可信 AI 评估目录，旨在帮助开发人员和审计员以结构化的方式评估 AI 应用程序的可信度。

    Jun, 2023

  • 同情 AI 伤害评估过程的协同塑造

    通过参与式研讨会我们了解到边缘群体在审计过程中对偏见赏金的所有权、激励和有效性等方面的关切，从而得出了支持社区所有权并结合参与式进程的结论。

    Jul, 2023

  • 人工智能的信任：进展、挑战与未来方向

    人工智能在我们的日常生活中越来越广泛地使用，尤其在各种应用、服务和产品中。因此，从用户角度来看，对人工智能的信任或不信任变得非常重要。这篇论文通过系统文献综述，探讨了当前人工智能领域的信任概念，并研究了不同类型的人机交互中的信任以及其对不同领域的技术接受度的影响。此外，还提出了技术和非技术的可信度指标以及一些可信度衡量标准，并分析了一些人工智能中的主要破坏因素和信任建立因素，并为实现可信度从而实现人工智能的可靠过渡提出了一些未来的方向和可能的解决方案。

    Mar, 2024