May, 2022

人工不变理论：在反歧视法下保护算法群体

PDF
TL;DR通过分析北美和欧洲的《非歧视条例》、法律和判例，本文认为算法群体不可比较于传统的受保护群体，但这些新群体同样值得保护。作者提出 “人工不变理论”，以保护算法群体，以防止其在实践中成为事实上的不可改变特征，从而限制人们的自治权并阻止其实现重要目标。
发现论文，激发创造
  • AI 法案对非歧视法和算法公平性的影响

    AI Act 试图在 AI 模型的设计阶段，将非歧视责任与算法公平两个概念联系起来，以缓解结构性的不平等问题，并提出了对于偏见检测和偏见修正的实际应用和技术要求方面的建议。

    Mar, 2024

  • 人工智能引发的社会危害的多样性和综合人工智能法律的失败

    该研究提出了分类 AI 系统以解决其引发的不同类型的社会危害，同时呼吁政府逐步适应现有法规以适应 AI 的创新发展。

    Mar, 2023

  • 算法时代下的歧视

    算法在歧视方面的可见性与不透明性的影响，以及其在歧视检测中提供重要透明度的需求，这也强调了算法在权衡竞争价值中的核心作用及其为公平带来积极作用的潜力。

    Feb, 2019

  • 欧盟非歧视法视角下的算法不公平：为何法律不是决策树

    本研究旨在分析欧洲联盟的非歧视法与计算机科学领域先进的算法公正概念之间的重叠与区别，研究表明，当前的 AI 实践和非歧视法存在的局限性，对 AI 从业者和监管者有着重要的启示。

    May, 2023

  • 保险中的人工智能与道德：缓解风险模型中的代理歧视的新解决方案

    机器学习在伦理学、保险定价和风险选择方面面临着人们日益关注的议题，本研究探讨了间接性歧视的风险，并提出了一种基于线性代数的创新方法来降低间接性歧视的风险，以提高保险的公平性和性能表现。

    Jul, 2023

  • 为什么公平性无法自动化：弥合欧盟反歧视法和人工智能之间的差距

    通过对非歧视法的案例进行研究，提出了一种指标条件人口差异（CDD）来衡量机器学习中的公平性，此举可促进机器学习中公平性考虑，并尊重欧盟非歧视法中的情境因素。

    May, 2020

  • 美国法律体系是否准备好应对人工智能对人类价值的挑战？

    我们的跨学科研究调查了美国法律如何有效应对生成式人工智能对人类价值观的挑战。通过对专家研讨会中构思的多种假设场景进行分析，我们发现现行法律框架在保护自主权，隐私，尊严，多样性，平等和身体 / 心理健康等基本价值观方面存在显著的差距和不确定性。宪法和民事权利似乎不足以提供对 AI 生成的歧视性输出的足够保护。此外，即使我们排除第 230 条规定的责任保护，由于人工智能系统的错综复杂和模糊不清的特点，要证明诽谤和产品责任的因果关系是一项具有挑战性的事业。为了应对生成式人工智能带来的独特和不可预见的威胁，我们倡导法律框架的演进，以认识新的威胁并向行业利益相关者提供主动的、可审计的指导方针。解决这些问题需要深入的跨学科合作，以确定伤害、价值观和缓解策略。

    Aug, 2023

  • AI 中的偏见和歧视：跨学科视角

    本文从技术、法律、社会和伦理学的跨学科视角，对人工智能中的偏差和歧视进行了调查研究，并表明解决人工智能中的偏差和歧视需要进行强大的跨学科合作。

    Aug, 2020

  • 无表示就无计算：通过多样性避免数据和算法偏见

    本文提倡将多样性作为核心优先事项，以实现算法公平所追求的不歧视和公正目标，并为计算机科学的从业人员提供具体的多样性措施建议，以增加多样性，并提高算法公平的实践水平。

    Feb, 2020

  • 证明和消除不同影响

    通过研究受保护类别和过程的定义，提出基于导出数据的方法来评估算法偏差，并描述了消除偏差和保留数据相关信息的方法。

    Dec, 2014