Jul, 2019

面向残疾人的 AI 公平性：研究路线图

PDF
TL;DR使用 AI 技术改善残障人士（PWD）的生活具有巨大潜力，但是如果没有考虑到公平性，这些技术可能会导致针对残障人士的不良影响。该研究通过风险评估和未来的研究路线图来探讨 AI 与残障人士之间的相互作用，以建立更公平、更包容性的算法。
ai technologiesdisabilitiesfairnessrisk assessmentinclusive algorithms
发现论文，激发创造
  • 残障人士的 AI 公平性观点

    本文探讨了人工智能及机器学习方法的广泛运用如何影响残障人士在社会中获得公正待遇的问题，对比年龄、性别或种族等受保护的特征，阐述了公正对于残障人士来说有着特殊的意义和挑战，提出在人工智能应用中为残障人士建立公平机制的建议。

    Nov, 2018

  • AI 与无障碍：道德考虑的讨论

    本文从残障人群的需求入手，探讨了如何通过 AI 技术来解决其面临的较多的无障碍性障碍问题；同时，哪些道德问题需要被考虑到才能实现真正的包容性。

    Aug, 2019

  • 公正的意义是什么？残障、人工智能与正义复杂性

    本文通過殘疾人的角度分析了人工智能對殘疾人的道德影響，並且提出了讓研究者進一步關注道德正義而非簡單的公平性的思路。

    Aug, 2019

  • 参与生成式 AI 开发中残疾人群体的民主平台

    建议一个平台，以包容残障群体为重点，用于设计和开发生成式人工智能系统，并研究它们在被残疾人群体使用时产生的偏见和错误的因素。

    Sep, 2023

  • 定义推动设计：残障模型与人工智能技术中的偏见机制

    本文通过分析三种不同的残疾人历史模型，探讨设计决策在人工智能决策辅助中的潜在偏差，并指出缺乏透明度和残疾人参与加剧了这些偏差的危害性。我们建议以残疾人为导向的设计和参与式开发，以生产更加公平和平等的残疾相关人工智能技术，提出了关键问题。

    Jun, 2022

  • 残疾视角：发现自动图像生成的偏见

    通过综合实验，研究发现当前普遍的图像生成模型在描绘残障人士时存在明显的偏见，通常将他们描绘为年长、悲伤，并主要使用手动轮椅，因此迫切需要更具包容性的 AI 开发，确保生成的图像中残障人士能够得到多样化和准确的呈现，以解决和减轻 AI 模型中的偏见，促进公平和真实的表现。

    Jun, 2024

  • AI 中的偏见和歧视：跨学科视角

    本文从技术、法律、社会和伦理学的跨学科视角，对人工智能中的偏差和歧视进行了调查研究，并表明解决人工智能中的偏差和歧视需要进行强大的跨学科合作。

    Aug, 2020

  • AI 普惠的挑战与解决方案

    人工智能的普遍存在和多样性需要在其设计中考虑到公平、信任和透明性的多样性和包容性原则，然而，这些考虑往往被忽视，导致偏见、歧视和不可信任的问题。本研究通过系统回顾挖掘了与人工智能中的多样性和包容性相关的挑战和解决方案，研究结果包括 55 个关于多样性和包容性的独特挑战和 33 个解决方案，以及 24 个关于使用人工智能来增强这些实践的独特挑战和 23 个解决方案。该研究将帮助研究人员和从业者更好地理解这些问题，并在未来的人工智能系统中融入这些原则。

    Jul, 2023

  • 人工智能中的公平以及对社会的长期影响

    本文讨论了在人工智能中缺乏公平性可能导致偏见加深和社会压力的问题，评估了当前改善 AI 公平性的策略并探索了未来的潜在路径。

    Apr, 2023

  • 人工智能模型中的公平追求：一项调查

    人工智能（AI）模型在我们的生活的各个方面得到广泛应用，如医疗、教育和就业。鉴于它们在许多敏感环境中使用并做出可能改变生活的决策，潜在的偏见结果成为一个紧迫问题。开发人员应确保这些模型不表现出任何意外的歧视做法，如对特定性别、种族或残疾人的偏袒。随着 AI 系统的广泛应用，研究人员和从业者对不公平的模型意识越来越强，并致力于减少其中的偏见。本文综述了研究人员在确保 AI 系统公平性方面所做的不同努力。我们探讨了当前文献中关于公平性的不同定义，通过对不同类型的偏见进行分类，研究了不同应用领域中存在的出现偏见的 AI 案例。我们对研究人员在减少 AI 模型偏见方面采用的方法和技术进行了详细研究。此外，我们还深入探讨了偏见模型对用户体验的影响以及在开发和部署此类模型时需要考虑的伦理问题。我们希望通过分享这份全面的综述，帮助研究人员和从业者理解 AI 系统中公平性和偏见的复杂问题。通过此综述，我们旨在促进公平和负责任 AI 领域的进一步讨论。

    Mar, 2024