公平感知在线个性化

MMJul, 2020

Fairness-Aware Online Personalization

G Roshan Lal, Sahin Cem Geyik, Krishnaram Kenthapadi

TL;DR本文针对在线个性化设置中排名的公平性问题，从公平的机器学习模型开始，探讨了在线个性化如何导致模型不公平，并提出了一种基于正则化的方法来缓解机器学习中的偏差。

Abstract

Decision making in crucial applications such as lending, hiring, and college admissions has witnessed increasing use of algorithmic models and techniques as a result of a confluence of factors such as ubiquitous connectivity, ability to collect, aggregate, and process large amounts of

algorithmic models search and recommendation systems personalized ranking algorithms ethical challenges bias in datasets

发现论文，激发创造

排名和推荐中的公平性：概述

本文旨在介绍确保排名和推荐中的公平性所使用的定义、模型和方法的工具包，提供有关这一新颖、迅速发展和有影响力的领域的坚实框架，将相关方法并置并强调未来工作的开放挑战和研究路径。

Apr, 2021

公平信貸評分的算法決策方法

本研究探讨了 12 种顶级的偏差缓解方法，讨论其性能，基于 5 种不同的公平度量标准、实现的准确性和金融机构的潜在利润。我们的研究结果表明，在保留准确性和利润的前提下实现公平存在困难，同时突出了一些最佳和最差的表现，并有助于实验机器学习和其工业应用之间的联系。

Sep, 2022

面向搜索和推荐系统的公正排序技术及其在领英人才搜索中的应用

该研究提出了一种评估和降低个人排名算法偏差的框架，旨在实现公平性标准，通过 LinkedIn Talent Search 在线 A/B 测试并部署在全球 LinkedIn Recruiter 用户中，实现公平和商业指标的协调提高，有助于招聘行业和 630M 以上 LinkedIn 会员的公平和受益。

Apr, 2019

公平与个性化：朝向认知效用的公平

在个性化系统中实现公平性的方法与政策推荐，以避免算法系统中存在和持续偏见的风险。

Sep, 2023

公平性概念及相关紧张关系综述

本文旨在调查研究自动化决策系统中机器学习算法存在的偏差及其与公平、隐私和分类准确性之间的关系，并综述了处理公平 - 准确性权衡的不同方法。作者通过实验分析了公平度量和准确度在现实世界场景中的关系。

Sep, 2022

公平且无偏的算法决策制定：现状与未来挑战

机器学习算法应用于如信贷贷款或刑法司法等关乎人类生活方面的情境，其所基于的数据若含有人类偏见决策，则会产生人类偏见决策，拥有公平观念的机器学习是一种解决方案，但是如何实现公平面临着 “多维面” 等难题，要想在不同领域实现公平、公正，算法必须做到数据和开发者审查的透明化，在此基础上不断进行公平审计。

Jan, 2019

教育中的算法公平性

介绍算法公平性在教育中的应用，关注预测模型、偏见和歧视，给出了在教育技术中如何促进算法公正性的方针建议。

Jul, 2020

iFair: 学习个体公平数据表示方法用于算法决策

本文提出了一种基于概率映射用户记录的方法，用于实现算法决策应用的个体公平性和真实应用环境下的分类器和排名等工具的效用性，并通过应用于现实世界数据集的分类和学习排序任务的实验表明了其比之前最佳方法有显著改善。

Jun, 2018

基于赌博机的个性化算法框架中的偏差控制

本研究提出了一种算法框架，使得在通过类似赌博机学习用户喜好进行内容个性化推荐过程中能够控制偏差和歧视，并通过实验验证了该算法的可行性和效果。

Feb, 2018

算法公正性

本文概述了在使用人工智能算法时如何识别、测量和提高算法公正性的主要概念，并讨论了算法偏见和不公正的原因、公正的常见定义和度量以及预处理、处理中和后处理机制，最终回顾了几个新兴的算法公正性研究子领域。

Jan, 2020