解决表现预测中的极化和不公平问题
在社会分类问题中,我们通过利用预测模型的表现性来实现更强的群体公平保证,解决了冲突的群体公平定义,并通过决策者的能力引导人口以从长远来解决不公平问题。
May, 2024
该研究提出一种分类法,以表征数据中的偏差,并研究了表现预测中的两种典型偏差:分布偏移和选择性标签对性能和公平性的危害,通过真实案例研究了欺诈检测中的不公平问题。
Jun, 2022
文章探讨了预测可能影响其预测目标的可执行性预测,并提出了一种风险最小化框架,引入了统计学、博弈论和因果性的概念,并给出了最小化损失的稳定点的必要和充分条件。在全面性上,表现性预测严格包含战略分类设置,并给出了克服战略反馈效应的重新培训的首个充分条件。
Feb, 2020
社会世界中的预测通常会影响预测的目标,这称为表现性,而表现性预测又可分为自我实现和自我否定的预测。在机器学习的发展中,表现性这个概念在经济学、金融学和社会科学中具有基本重要性,但在机器学习应用中往往表现为分布转移。我们对最近建立的表现性预测领域进行了调查,提供了定义和概念框架,以研究机器学习中的表现性。表现性预测的一个结果是自然均衡概念的出现,从而产生了新的优化挑战。另一个结果是学习和操纵之间的区别,这是表现性预测中发挥作用的两种机制。操纵的概念与数字市场中的权力问题密切相关。我们审查了表现性权力的概念,给出了这样一个答案:一个平台通过其预测有多大程度上能够操纵参与者。最后,我们讨论了未来的方向,比如表现性对抗算法系统中的作用。
Oct, 2023
该研究提出一种执行预测框架,关注于找到稳定的分类器来影响他们要预测的数据;并且可以放松关于损失函数的假设,通过使用 Lipschitz 连续的预测数据分布。通过实验,该研究表明可以使用这种方法学习关于真实数据的神经网络分类器。
Apr, 2023
本文探讨了 performative prediction 的问题,基于特定的损失函数和模型诱导的分布位移性质进行优化,从而实现风险凸优化,并且比通用导数优化方法具有更好的样本效率。
Feb, 2021
对于受到不等式约束的可行预测问题,本文在鲁棒的原始对偶框架基础上提出了一种自适应的原始对偶算法,通过数值模拟验证了算法的有效性和理论结果,该算法在不等式约束下达到 O (√T) 的后悔与约束违规,使用了√T + 2T 个样本。
Sep, 2023
本文提出了一个理论框架,建模了目标人群对已部署分类器的响应,同时研究了基于重复风险最小化和一种更懒惰的方法的两个重新训练算法的收敛性,能够更好的控制已部署分类器的影响,同时探讨了不同人群获取信息和资源的差异对已部署分类器的响应影响。
Nov, 2020
本文研究了在目标性预测中使用可能被错误规定的模型的方法,通过使用名为 “插件表现优化” 的通用协议,证明了其过度风险的界限,结果表明,即使模型被错误规定,模型确实可以帮助学习实现表现。
May, 2023