Jul, 2023

AI 普惠的挑战与解决方案

PDF
TL;DR人工智能的普遍存在和多样性需要在其设计中考虑到公平、信任和透明性的多样性和包容性原则，然而，这些考虑往往被忽视，导致偏见、歧视和不可信任的问题。本研究通过系统回顾挖掘了与人工智能中的多样性和包容性相关的挑战和解决方案，研究结果包括 55 个关于多样性和包容性的独特挑战和 33 个解决方案，以及 24 个关于使用人工智能来增强这些实践的独特挑战和 23 个解决方案。该研究将帮助研究人员和从业者更好地理解这些问题，并在未来的人工智能系统中融入这些原则。
artificial intelligencediversity and inclusivitybiasdiscriminationtrust
发现论文，激发创造
  • AI 中多样性和包容的运营愿景

    本研究提出了一种利用生成人工智能 (GenAI) 进行基于角色的模拟的工具的框架愿景，旨在促进需求分析过程中对多样化用户需求的表示，从而为人工智能软件的开发过程提供详细的用户叙述，以发展一种包容性的人工智能范式，确保未来的技术进步符合多样人类群体的需求。

    Dec, 2023

  • 人工智能中的多样性与包容性

    本章节提出了人工智能（AI）中多样性和包容性的定义和概念，并给出了一系列实践指南，以确保这些考虑因素嵌入到 AI 系统的核心中，同时对数据科学家、项目领导人员提出了建议。

    May, 2023

  • AI 中的偏见和歧视：跨学科视角

    本文从技术、法律、社会和伦理学的跨学科视角，对人工智能中的偏差和歧视进行了调查研究，并表明解决人工智能中的偏差和歧视需要进行强大的跨学科合作。

    Aug, 2020

  • 人工智能教育公平性挑战和需求专家观点

    本研究通过采用匿名调查和专家面谈的方式研究了如何在教育人工智能应用程序的开发过程中考虑公平性的挑战和需求，以及对数据挖掘和机器学习的推动作用，为实现更公平的教育人工智能应用程序提出了具体方向。

    Jun, 2022

  • 无表示就无计算：通过多样性避免数据和算法偏见

    本文提倡将多样性作为核心优先事项，以实现算法公平所追求的不歧视和公正目标，并为计算机科学的从业人员提供具体的多样性措施建议，以增加多样性，并提高算法公平的实践水平。

    Feb, 2020

  • 文化响应人工智能─问题、挑战和解决方案

    本文探讨了人工智能算法的社会文化和伦理挑战，强调了它们文化响应式发展的必要性，并提出了提高人工智能系统适应当代多元文化社会需求的关键元素的建议。本文还强调了进一步跨学科研究的必要性，以有效解决这些挑战，并强调了在人工智能培育和推动文化责任的重要性。

    Dec, 2023

  • 人工智能模型中的公平追求：一项调查

    人工智能（AI）模型在我们的生活的各个方面得到广泛应用，如医疗、教育和就业。鉴于它们在许多敏感环境中使用并做出可能改变生活的决策，潜在的偏见结果成为一个紧迫问题。开发人员应确保这些模型不表现出任何意外的歧视做法，如对特定性别、种族或残疾人的偏袒。随着 AI 系统的广泛应用，研究人员和从业者对不公平的模型意识越来越强，并致力于减少其中的偏见。本文综述了研究人员在确保 AI 系统公平性方面所做的不同努力。我们探讨了当前文献中关于公平性的不同定义，通过对不同类型的偏见进行分类，研究了不同应用领域中存在的出现偏见的 AI 案例。我们对研究人员在减少 AI 模型偏见方面采用的方法和技术进行了详细研究。此外，我们还深入探讨了偏见模型对用户体验的影响以及在开发和部署此类模型时需要考虑的伦理问题。我们希望通过分享这份全面的综述，帮助研究人员和从业者理解 AI 系统中公平性和偏见的复杂问题。通过此综述，我们旨在促进公平和负责任 AI 领域的进一步讨论。

    Mar, 2024

  • AI 公正：从原则到实践

    本文总结和评估了追求人工智能系统公正性的各种方法和技术，提出了定义、衡量和预防人工智能偏见的实用指南，并针对评估人工智能系统偏见的一些简单但常见方法提出了更为复杂和有效的替代方案。此外它还提供了一个共同的语言来解决领域内普遍存在的争议和混乱。它描述了涉及人工智能公正性的各种权衡，并提供了实用建议来平衡这些权衡。本文提供了关于人工智能从业者、组织领导、政策制定者的讨论和指南，以及为技术观众提供更多相关资料的链接。通过举例清晰阐述了本文中所提到的概念、挑战和建议。

    Jul, 2022

  • AI 为所有人：为 AI 系统实现多样性和包容性需求

    开发人工智能系统应当考虑与整合多样性和包容性原则，本研究旨在解决如何获取和捕捉多样性和包容性需求对人工智能系统的不足进行综合数据搜集和综合分析。

    Nov, 2023

  • 走向临床 AI 公平性：填补谜题中的空白

    医学领域中人工智能（AI）的道德整合需要解决公平性这个高度依赖上下文的概念。本文通过详细的证据缺口分析，系统地指出了医疗数据和 AI 公平解决方案中存在的一些缺陷。我们强调了在许多医学领域中 AI 公平研究的稀缺性。此外，我们分析还凸显了对群体公平的重要依赖，旨在从宏观医疗系统的角度确保人口统计群体之间的平等；相比之下，对于更精细化程度上的个人公平性常常被忽视了。为了填补这些间隙，我们的综述为医疗和 AI 研究社区提出了可操作的策略。除了在医疗中应用现有的 AI 公平方法，我们进一步强调了将医疗专业人员纳入其中，以完善 AI 公平概念和方法，以确保 AI 在医疗领域中具有上下文相关性和道德健全性。

    May, 2024