社会多样性降低培养公平性的复杂程度和成本
本文研究了在智能决策系统中公平性的一个重大问题,即如何在决策过程中考虑人口的长期影响。我们提出了一个简单却深入的模型,它将考虑到人员选择以及政策对群体资格的影响力,重点研究肯定行动的形式主义。我们的研究明确了这个制约政策对于旨在实现平衡的肯定行动而言的成果,它是对智能决策系统中不断变化着的影响因素与公平性之间关系的重要探究。
Dec, 2018
算法系统的社会影响及其规范与控制。研究选择最合格个体以最大化效用的系统。通过惩治社会群体间歧视实现选择算法的人口统计平衡。研究了歧视惩罚在减少选择中差异的条件下的效果,并考虑了个人资质会随时间演变以适应惩罚政策时的影响。发现在某些情况下,歧视惩罚可能阻碍人口天然获得公平的平衡方法,并提出了可解决这一问题的条件,以确保公正。
Apr, 2024
本文提出了公平性算法框架,运用法律和博弈理论概念,以控制不同人群之间的不公平性,从而改善通常会忽略小团体的传统影响最大化技术,并应用于无家可归的年轻人的 HIV 预防干预的实验结果证实了其有效性。
Mar, 2019
研究不同空间结构和社会公共物品在生物进化中如何影响互惠行为,发现异质性网络能够促进互惠行为的出现,但这也可能导致少数人受益,大多数人受益较少或负面影响。此外,研究还发现即使总成本超过总利益,社会产品的制作者也可能受到选择的青睐。
Sep, 2019
社会决策中公平性是最值得追求的原则之一,它在过去几十年中得到了广泛研究,近年来也得到了多智能体系统社区的重视。然而,这些研究往往不能充分捕捉到现实世界问题的复杂性和人们对公平性的认知。我们认为,社会规划者(设计者)不仅应该认为公平解是可取的,而且应该以人类和社会认知为基础,考虑基于人类判断的感知结果,并且可以进行验证。为了实现这一目标,需要从计算和人工智能到行为经济学和人机交互等广泛跨学科的方法。在这样做的过程中,我们指出了当前公平分配文献的不足和长期挑战,描述了近期在解决这些问题方面的努力,并更重要地强调了一系列开放的研究方向。
Dec, 2023
研究算法决策对长期影响的动态学习设置,通过对决策规则和个人投资之间的互动进行建模,表明通过分组复制规则和投资成本补贴两种干预措施可实现更好的长期结果,但前提是要考虑到组内异质性以及可实现性的影响。
Oct, 2019
研究表明,即使在使用 “个体公平” 的招聘方式时,当前的种族失业差距仍然存在于美国劳动力市场中,并且这些差距是由于资源和投资选择的不对称性而产生的,因此,需要采用双重劳动力市场以保证工人获得公平机会。
Nov, 2017
在这篇论文中,我们提出了一个新的框架,用于在动态系统中实现长期群体公平性,即使在政策设计过程中已经考虑了公平性。我们通过使用时间齐次马尔可夫链对系统动态进行建模,并利用马尔可夫链收敛定理优化政策,确保独特的收敛性。我们给出了一些系统的不同目标公平状态的示例,并展示了我们的方法如何在长期和收敛之前评估不同目标对群体条件人口分布的影响和演化。
Nov, 2023
我们通过社会选择理论的视角研究机器学习中的多任务基准,并将基准与选举系统进行类比,其中模型是候选人,任务是选民。我们将基准系统区分为基数型和序数型两种,前者将数字得分聚合为模型排名,后者则将每个任务的排名聚合起来。我们应用阿罗不可能定理于序数型基准,突显了序数系统的固有限制,尤其是对不相关模型的敏感性。受阿罗定理的启发,我们通过新的多样性和敏感性的定量度量指标进行了实证研究,并呈现了现有多任务基准在多样性和影响不相关任务变化方面之间的明确权衡。
May, 2024