研究发现算法公正性从业人员在实践中经常没有获取所需的人口统计数据，这带来了许多难题，其中包括如何平衡隐私与公平、如何定义相关的社会类别、如何确保意义上的同意以及私人公司是否可以推断某人的人口统计信息等，因此在使从业人员可以应对算法偏见方面，必须考虑到企业、监管机构、研究人员和社区团体所面临的挑战。

Oct, 2020

本研究提出了一种新型的公平训练算法，该算法在尽可能保护个人隐私的情况下，避免了在机器学习模型中存在不良社会偏见的问题。实验结果显示，该算法可以有效降低社会偏见问题。

Jun, 2021

本文阐述了机器学习和公平方面的研究，尤其是在敏感属性的意识方面的重要性，每个领域描述了如何和何时为反歧视目的收集或推断敏感属性数据，这个故事对公平研究及其未来应用具有重要意义，并强调各方利益相关者积极寻找一种综合考虑政策目标和技术需求的前进道路。

Dec, 2019

在真实世界的场景中，算法运营商为了在职位申请者或信贷申请者之间进行排名，可能通过推断人们的人口统计学信息并将其提供作为排名算法的输入，但本研究通过模拟和三个真实数据集的案例研究表明，实际系统中产生的人口推断可能会导致不公平的排名。因此，开发人员不应将推断出的人口统计数据作为公平排名算法的输入，除非推断结果非常准确。

May, 2021

本文研究通过个人隐私保护的方式，实现对受保护属性的学习，在使用中不产生歧视，同时在受保护属性只在数据子集中存在的情况下，实现公平预测模型的学习。

Feb, 2020

本研究通过引入不确定性感知，对可能存在不确定性的人口敏感属性样本实施公平性要求，并提出一种建立更好的公平性 - 准确性权衡的属性分类器框架，实验证明该框架相对于传统方法在两个数据集上都取得显著的公平性 - 准确性权衡表现优势，并且超过了对真实敏感属性进行约束训练的模型。

Jul, 2023

本文研究了评估算法决策的不平等影响面临的根本性挑战：保护类成员在数据中通常不可观察。研究者考虑使用附加数据集来构建模型，从而预测代理变量（如姓氏和地理位置）来确定受保护类别的成员身份，提供了计算和可视化这些集合的算法和统计工具。通过借助美国人口普查数据和两个真实案例（抵押贷款和个性化药物剂量），展示了这种方法可以实现可靠和稳健的不平等影响评估。

Jun, 2019

通过概率插值敏感特征并联合学习组条件缺失概率的变分自编码器，我们提出了公平感知分类模型，以解决隐私、法律问题和个体恐惧所导致的敏感特征全知要求的实际不可行性问题，我们的模型在图像和表格数据集上表现出较好的准确性和公平性平衡。

Feb, 2024

本文探讨算法公平框架中如何采纳种族和种族范畴，认为目前的方法未能充分考虑种族的社会构造性质，指出需要理解种族具有的多维性、关注种族不平等的社会过程，并关注最受社会技术系统影响的人的观点。

Dec, 2019

本研究旨在通过条件人口失调性 (CDD) 的公平性定义来评估公平度量和公平约束，在欧盟非歧视法律框架下支持公平上下文方法，并进行了数据分析，发现 AI 辅助决策在法律角度上具有公平性，取决于具体情况和法律理由。

Jun, 2023