Mar, 2019

算法决策政策的长期影响：通过社会学习的努力不公和特征隔离

PDF
TL;DR该研究提出了一种算法公平的努力程度量度标准，并提出了一种数据驱动框架，用于表征算法政策对重塑基础人口的长期影响。
algorithmic fairnesslong-term impacteffort-based measureequality of opportunitydecision-making algorithms
发现论文，激发创造
  • 如何公正决策长期资格问题？

    本文针对决策公平性方面的长期影响进行研究，研究人员通过模拟静态公平约束下群体福祉的平等和改进的长期影响以及潜在的干预措施，发现其对于群体福利可同时具有促进平等和增加差距两种影响，同时提出一种理论框架并完成了基于实际数据与模拟动态的社会科学研究。

    Oct, 2020

  • 公平机器学习的延迟影响

    本研究研究了在机器学习中关于公平性的概念，发现公平标准在不同的时间指标下可能会对个体产生不同的影响，同时量化误差也会影响其效果评估。

    Mar, 2018

  • 算法公平性：一个容忍视角

    机器学习和深度学习的最新进展使得算法公平成为一个关注焦点，引发对影响某些个体或群体的歧视性决策的担忧。本调研综述基于 “容忍度” 提出了一个新的分类系统，揭示了算法决策中公平的微妙性。通过分析多个行业，我们的系统性综述揭示了算法决策与社会公平之间的关键见解。通过综合这些见解，我们勾勒出一系列新兴挑战，并提出未来研究和政策制定的战略方向，以推动该领域朝着更加公平的算法系统发展。

    Apr, 2024

  • 算法公正性

    本文概述了在使用人工智能算法时如何识别、测量和提高算法公正性的主要概念，并讨论了算法偏见和不公正的原因、公正的常见定义和度量以及预处理、处理中和后处理机制，最终回顾了几个新兴的算法公正性研究子领域。

    Jan, 2020

  • 执行延迟影响公平性保证

    本研究介绍了 ELF 分类算法，通过考虑决策在人们的生活和福祉中所产生的长期影响，提供高可信的公平性保证，并证明了 ELF 返回不公平解决方案的概率小于用户指定的公差。同时我们的实验表明该算法能够成功地缓解长期的不公平现象。

    Aug, 2022

  • 设计动态系统中的长期群体公平策略

    在这篇论文中，我们提出了一个新的框架，用于在动态系统中实现长期群体公平性，即使在政策设计过程中已经考虑了公平性。我们通过使用时间齐次马尔可夫链对系统动态进行建模，并利用马尔可夫链收敛定理优化政策，确保独特的收敛性。我们给出了一些系统的不同目标公平状态的示例，并展示了我们的方法如何在长期和收敛之前评估不同目标对群体条件人口分布的影响和演化。

    Nov, 2023

  • 算法决策中影响公平感知的因素：算法结果、开发过程和个体差异

    本研究使用在线实验的方法，探讨三组因素（算法预测结果、算法开发和部署程序以及个体差异）对算法公平性认知的影响，研究发现，参与者倾向于认为算法在其预测结果有利的情况下更加公平，这种影响受到多种变量的调节，如教育水平、性别以及开发程序的若干方面，研究结果表明在通过用户反馈评估算法公平性时，必须考虑预测结果偏好的可能存在。

    Jan, 2020

  • 公平法规对机构政策和人口资格的影响

    算法系统的社会影响及其规范与控制。研究选择最合格个体以最大化效用的系统。通过惩治社会群体间歧视实现选择算法的人口统计平衡。研究了歧视惩罚在减少选择中差异的条件下的效果，并考虑了个人资质会随时间演变以适应惩罚政策时的影响。发现在某些情况下，歧视惩罚可能阻碍人口天然获得公平的平衡方法，并提出了可解决这一问题的条件，以确保公正。

    Apr, 2024

  • 未知动态下的长期公平性

    本文提出了一种在在线强化学习中形式化长期公平的方法；该方法可以适应不同的控制目标，通过牺牲短期激励来推动分类器 - 人群系统朝着更理想的均衡状态发展，从而在损失和公平违规之间实现同时概率边界的算法。

    Apr, 2023

  • 教育中的算法公平性

    介绍算法公平性在教育中的应用，关注预测模型、偏见和歧视，给出了在教育技术中如何促进算法公正性的方针建议。

    Jul, 2020