May, 2024

数据女权主义与人工智能

PDF
TL;DR通过引入新的原则并与环境影响和同意相关，本文在探讨为进行公平、道德和可持续的 AI 研究而提出的交叉女权主义原则的基础上，阐述了女权主义对 AI 研究的重要性，并旨在解决 AI 研究中不平等、非民主、剥削和排斥力量，预防不安全、歧视或压迫性系统释放到世界上产生可预测的危害，并激发创造性、快乐和集体的方式，致力于建立一个更具公平、可持续的世界，让我们所有人都能蓬勃发展。
intersectional feminismai researchethicalsustainabledata science
发现论文，激发创造
  • 朝着女性主义的人工智能元伦理学

    发展人工智能（AI）中的女性元伦理研究议程，评估 AI 伦理之间的连续性、AI 伦理的实际效应、参与 AI 伦理的人员角色与特征，以及通过关注背景、情感和叙事方式来分析 AI 对权力关系的影响。

    Nov, 2023

  • 无表示就无计算：通过多样性避免数据和算法偏见

    本文提倡将多样性作为核心优先事项，以实现算法公平所追求的不歧视和公正目标，并为计算机科学的从业人员提供具体的多样性措施建议，以增加多样性，并提高算法公平的实践水平。

    Feb, 2020

  • 走向女性主义交叉解释型人工智能：从可解释性到响应能力

    本论文探讨了女性主义交叉视角在人机交互与 AI 设计中的重要性，并提出了增强反应能力和将边缘化视角置于中心的解释性 AI 设计方向。

    May, 2023

  • AI 的 FAIR：跨学科、跨国际、包容和多样化的社群建设视角

    本文讨论了 FAIR 准则在数据管理、数字资产、人工智能模型等领域的应用和实践，以及一些领先科研人员在其社区实践中推广和采纳 FAIR 准则的构想和经历。

    Sep, 2022

  • 权力结构矩阵的因素分解：对 AI 公平性中交叉性理论的批判性评论和再想象

    本研究探讨交叉性是如何应用于 AI Fairness 领域，并指出研究人员在这个应用方面所存在的概念和实践差距，并提出了关于如何改进这种状况的建议。

    Mar, 2023

  • AI 普惠的挑战与解决方案

    人工智能的普遍存在和多样性需要在其设计中考虑到公平、信任和透明性的多样性和包容性原则，然而，这些考虑往往被忽视，导致偏见、歧视和不可信任的问题。本研究通过系统回顾挖掘了与人工智能中的多样性和包容性相关的挑战和解决方案，研究结果包括 55 个关于多样性和包容性的独特挑战和 33 个解决方案，以及 24 个关于使用人工智能来增强这些实践的独特挑战和 23 个解决方案。该研究将帮助研究人员和从业者更好地理解这些问题，并在未来的人工智能系统中融入这些原则。

    Jul, 2023

  • 数据正义实践指南：开发人员手册

    这篇研究论文提供了一个指南，详细介绍了数据正义、AI/ML 项目生命周期中的社会技术视角、如何在数据创新生态系统中实现数据正义的五个原则（即 SAFE-D 原则），以及如何在设计、开发和部署负责任和公平的数据密集型和 AI/ML 系统时处理数据正义问题的指导问题。

    Apr, 2022

  • 反思公平：对霸权机器学习公平方法批评的跨学科调查

    本文评估并比较了来自哲学、女性主义研究、批判性种族和民族研究、法律研究、人类学和科学技术研究等非计算学科的现有批评，旨在提供 ML 公正技术干预的跨学科理解，以此产生社会上最边缘化群体的公正结果，最后讨论了基于这些批评的未来 ML 公正研究方向。

    May, 2022

  • AI 实践中的公平性

    AI Fairness 领域存在多种理解和多样化的公平概念，对此，本文提出了一种基于上下文和以社会为中心的方法来帮助项目团队更好地识别、减轻和处理人工智能项目流程中出现的不公平偏见和歧视，并讨论了如何通过自我评估、风险管理和公平准则的文档化来实现 AI 公平原则。

    Feb, 2024

  • 解释幽灵：女性主义交叉可解释人工智能和制图学作为计算不可见劳动的方法

    现代自动化通过 AI 需要大量的幕后人工劳动，其中一部分是不可见的，并且经常被低估。由于不可见的劳动是当代 AI 系统的一个重要组成部分，因此敏感用户对其角色非常重要。本文建议通过可解释 AI（XAI）设计特别是女性主义交叉 XAI 来实现这一点。我们提出了地图制图的方法，该方法源自女性主义交叉研究，旨在描绘人工智能的系统观，并包括与不可见劳动有关的人工智能维度。

    May, 2023