Mar, 2023

公平人工智能研究圆桌会议 (EARR)：朝着社区决策的道路，推进负责任人工智能的发展

PDF
TL;DR该研究报告介绍了我们对 “Equitable AI Research Roundtable” 的初步评估，这是一个由法律、教育、社区参与、社会正义和技术专家组成的联盟，该联盟在大型科技公司、非营利组织、非政府研究机构和大学之间进行合作。在半结构化的工作坊和讨论中，EARR 提供了关于如何将公平和脆弱性概念化为 AI 技术相关问题的关键观点和反馈。我们概述了 EARR 迄今为止实践的三个原则，这些原则与 FAccT 社区的关注点特别相关：如何扩大 AI 技术开发的专业知识范围，如何促进认知好奇心和责任，以及创造相互学习的空间。本文既是对这种参与方法的经验教训的分析和翻译，也是未来研究的可能性。
equitable ai research roundtabletechnologyethicssocial justiceai development
发现论文，激发创造
  • 探索科学研究的负责任人工智能：一项实证研究

    本文研究了科学研究机构在负责人工智能设计和开发中的道德风险意识和准备情况，揭示了知识缺口和对可用人工智能伦理框架的意识有限。我们的研究结果显示，在没有适当的指导和管理下实施人工智能技术可能会带来潜在的道德风险，因此需要全面的策略来提高团队能力，支持负责、道德和包容的人工智能开发和部署。

    Dec, 2023

  • 人工智能研究的伦理和社会评估

    该研究介绍了一个新的反馈机制：伦理和社会审查委员会 (ESR)，它与研究人员合作，缓解人工智能研究带来的负面伦理和社会影响。ESR 反馈发现最常见的问题是对少数族裔群体的伤害、在研究计划中包容多元利益相关者、双重用途和数据的表征。调查和采访研究人员发现，58% 的人认为 ESR 影响了他们研究项目的设计，100% 的人愿意继续提交未来的项目，并为了推理伦理和社会问题寻求额外的支持。

    Jun, 2021

  • 使得负责任的 AI 成为常态而不是例外

    本文提供了针对 National Security Commission on Artificial Intelligence (NSCAI) 关于负责任开发和部署人工智能的主要考虑因素的建议，重点在于要将 “负责任 AI” 作为常规而不是例外，并提供了一套可操作的框架来实现这一目标。

    Jan, 2021

  • 为开发更可信赖的自主系统建议重视 RE

    该论文关注了 COMPLYING WITH THE EU AI Act 准则并开发实施 AI 系统的情况，分析了不同伦理准则的文献细节、伦理 AI 框架的适用性等问题，提出了伦理 AI 的限制以及进行可靠的 AI 开发的建议

    May, 2023

  • 朝向以人为中心的负责任人工智能：CHI 研究和工具包综述

    本文通过主题式地回顾和分析了 27 篇 CHI 研究论文和 19 个工具包，提出了对人本 AI (HCR-AI) 研究现状的基础性映射，结果显示当前 HCR-AI 研究热点为可解释性、公平性、隐私和安全等方面，同时指出应开展 AI 问责性的研究，并为非专业人员构建一种可用工具问责 AI，以解决 AI 对个人、社会和自然资源（人类繁荣和可持续性）的长期影响问题。

    Feb, 2023

  • 推动人工智能和机器人的平等敏捷研究与开发

    机器学习和人工智能方法倾向于复制和放大现有的偏见和偏见，噢录能通过面部识别的机器人未能将黑人妇女视为人类，而其他机器人则仅基于外貌将人们如黑人男性归类为罪犯。我们提出一个框架，将广泛应用的研发项目管理方法调整为建立组织公平能力并更好地整合已知的基于证据的最佳实践。我们描述了如何组织和运作最有前景的实践、技能集、组织文化和方法，以尽早检测和解决基于权利的公平、公正、问责和道德问题。我们的主要示例是基于 Scrum 的敏捷开发过程，这是一种广泛采用的组织研发团队方法。我们还讨论了我们提出的框架的局限性和未来的研究方向。

    Feb, 2024

  • 无表示就无计算：通过多样性避免数据和算法偏见

    本文提倡将多样性作为核心优先事项，以实现算法公平所追求的不歧视和公正目标，并为计算机科学的从业人员提供具体的多样性措施建议，以增加多样性，并提高算法公平的实践水平。

    Feb, 2020

  • 基于人权的负责任人工智能方法

    本文提出了普世人权理论作为明确价值观和准则的指导框架，阐述了其在负责任的 AI 中的有效性，并探讨了其作为民间社会伙伴关系和参与的框架的效果。

    Oct, 2022

  • 负责任人工智能框架的快速综述：引导道德人工智能的发展

    简要介绍了几个提供负责人工智能应用程序的框架，发现大多数框架仅适用于需求调查阶段，仅有一些私人公司提供了支持工具。结果表明，还缺乏一个全面的框架，该框架包含所有负责人工智能的原则和所有 SDLC 阶段，并可由不同技能集和不同目标的用户浏览。

    Jun, 2023

  • AI 中的 FATE: 走向算法包容和可访问性

    本研究旨在提高 AI 领域可达性和包容性，评估 “公正，问责，透明和伦理” 相关问题的有效性，并通过使用在线社交网络的广告数据的用户研究 (n=43) 提供有用的见解，结论是：需要与社区进行合作，以期将公正，问责，透明和伦理纳入 AI 应用系统中，从而增强受影响的社区或个人对日益增长的 AI 系统应用进行有效的探索和监管。

    Jan, 2023