Mar, 2024

AI 法案对非歧视法和算法公平性的影响

PDF
TL;DRAI Act 试图在 AI 模型的设计阶段，将非歧视责任与算法公平两个概念联系起来，以缓解结构性的不平等问题，并提出了对于偏见检测和偏见修正的实际应用和技术要求方面的建议。
发现论文，激发创造
  • 欧盟非歧视法视角下的算法不公平：为何法律不是决策树

    本研究旨在分析欧洲联盟的非歧视法与计算机科学领域先进的算法公正概念之间的重叠与区别，研究表明，当前的 AI 实践和非歧视法存在的局限性，对 AI 从业者和监管者有着重要的启示。

    May, 2023

  • 为什么公平性无法自动化：弥合欧盟反歧视法和人工智能之间的差距

    通过对非歧视法的案例进行研究，提出了一种指标条件人口差异（CDD）来衡量机器学习中的公平性，此举可促进机器学习中公平性考虑，并尊重欧盟非歧视法中的情境因素。

    May, 2020

  • 数字市场法规下的门户 AI 与数据监管：透明度、获取和公平性

    该研究论文旨在分析欧盟数字市场法规中的人工智能应用于数字经济的规则，研究表明在公平性问题上的 DMA 远胜过 AI Act，提供了具体的解决方案。

    Dec, 2022

  • AI 实践中的公平性

    AI Fairness 领域存在多种理解和多样化的公平概念，对此，本文提出了一种基于上下文和以社会为中心的方法来帮助项目团队更好地识别、减轻和处理人工智能项目流程中出现的不公平偏见和歧视，并讨论了如何通过自我评估、风险管理和公平准则的文档化来实现 AI 公平原则。

    Feb, 2024

  • 中性谬误：算法公平干预何时 (不) 是积极行动

    算法公平性干预常被解释为防止歧视而非积极行动措施，调研结果提出在算法决策和公平干预中，应该从不造成伤害的消极义务转向积极‘不造成伤害’的责任。

    Apr, 2024

  • AI 中的 FATE: 走向算法包容和可访问性

    本研究旨在提高 AI 领域可达性和包容性，评估 “公正，问责，透明和伦理” 相关问题的有效性，并通过使用在线社交网络的广告数据的用户研究 (n=43) 提供有用的见解，结论是：需要与社区进行合作，以期将公正，问责，透明和伦理纳入 AI 应用系统中，从而增强受影响的社区或个人对日益增长的 AI 系统应用进行有效的探索和监管。

    Jan, 2023

  • 公平性指标在欧盟非歧视法律中的相容性：人口多样性平衡和条件人口差异

    本研究旨在通过条件人口失调性 (CDD) 的公平性定义来评估公平度量和公平约束，在欧盟非歧视法律框架下支持公平上下文方法，并进行了数据分析，发现 AI 辅助决策在法律角度上具有公平性，取决于具体情况和法律理由。

    Jun, 2023

  • 算法公正性

    本文概述了在使用人工智能算法时如何识别、测量和提高算法公正性的主要概念，并讨论了算法偏见和不公正的原因、公正的常见定义和度量以及预处理、处理中和后处理机制，最终回顾了几个新兴的算法公正性研究子领域。

    Jan, 2020

  • 人工不变理论：在反歧视法下保护算法群体

    通过分析北美和欧洲的《非歧视条例》、法律和判例，本文认为算法群体不可比较于传统的受保护群体，但这些新群体同样值得保护。作者提出 “人工不变理论”，以保护算法群体，以防止其在实践中成为事实上的不可改变特征，从而限制人们的自治权并阻止其实现重要目标。

    May, 2022

  • 无表示就无计算：通过多样性避免数据和算法偏见

    本文提倡将多样性作为核心优先事项，以实现算法公平所追求的不歧视和公正目标，并为计算机科学的从业人员提供具体的多样性措施建议，以增加多样性，并提高算法公平的实践水平。

    Feb, 2020