本文提出了一种新的算法来训练公平的 deepfake detection model，以解决使用偏见的数据训练深度学习模型可能会导致不公平表现的问题。实验结果表明，该方法可以提高 deepfake detection 的公平性和鲁棒性。

Jun, 2023

机器学习算法应用广泛，但也可能存在偏见和不公平。本研究提出了一种刻画数据偏见的分类法，并探究了算法的不公平和精度之间的权衡。实证研究表明，在不同的数据偏见设置下，算法的公平性和精度会受到不同的影响，而简单的预处理干预技术可以提高算法的公平性。

Jul, 2022

机器学习算法已被广泛应用在各种领域，然而由此带来的公平性问题在高风险案例（如人脸识别和医学影像分析）中引起了极大关注。本文针对深度神经网络中公平性的限制条件及其行为矫正方法的有效性进行了研究，实验结果表明，在特定公平度量下，大型模型会对公平的过度拟合而产生一系列意外和不良后果。

Feb, 2021

本文通过研究模型，发现在刑事司法中，平衡不同人群的类型 I 和类型 II 错误与最小化总犯罪率目标是一致的，而其他流行的公平理念则不然。

Feb, 2020

本论文开展了第一次大规模实证研究，全面比较了现有最先进的公平性改进技术的性能，结果显示不同方法在不同数据集和敏感属性上表现存在较大差异，且不同的公平评估指标产生显著不同的评估结果，其中预处理方法和内处理方法优于后处理方法，预处理方法表现最佳，本研究为深度学习模型公平性提供了全面的建议。

Jan, 2024

利用人类移动数据增强的深度学习架构已经显示出能提高利用历史犯罪数据训练的短期犯罪预测模型的准确性。本文提出了一种新型的迁移学习框架，通过将在有丰富移动数据的源地区训练的深度学习犯罪预测模型权重传输到目标地区，对其本地犯罪预测模型进行微调，从而提高犯罪预测准确性。结果显示该迁移学习框架提高了移动数据稀缺的目标城市的 F1 得分，尤其是在可用移动数据月份数较少的情况下。我们还展示了这种 F1 得分的提升在美国不同类型的犯罪和各种城市中都是普遍的。

Jun, 2024

本研究提出一种新算法，可以识别和处理潜在的歧视因素，确保机器学习模型的公平性，从而提高模型性能，实现非歧视分类和回归任务。

Feb, 2020

本文通過創建因果貝葉斯知識圖，對機器學習模型中的歷史數據中現有的偏見進行了發現，提出了一種新的基於風險差的算法，以量化每個受保護變量在圖中的歧視影響力，以及一種快速適應的偏差控制方法，在元學習中高效地減少了組的不公平性，最終在合成和實際數據集上進行了廣泛實驗，證明了我們提出的不公平發現和防治方法可以高效地檢測偏見並減輕模型輸出上的偏見以及對訓練樣本量少的未見任務的精度和公平度的泛化。

Sep, 2020

提出一种新的方法来解决基于人工智能的交通出行需求预测中存在的公平性问题，通过在交通出行需求预测模型的损失函数中添加公平性正则项，以相应受保护属性（如种族、收入等）与预测准确度之间的相关性作为衡量指标，来同时考虑预测准确度和公平性。在芝加哥的真实骑行约车数据上进行实证分析，结果表明该方法有效地解决了预测准确性与公平性的平衡问题。

Mar, 2023

本文展示了在真实世界中基于 40 个高评分 Kaggle 模型的公平性评估及其 7 种缓解技术的实证研究。结果发现，部分优化技术会导致模型失公，尽管机器学习库中有公平控制机制，但这些机制未被记录。最佳的降低失公的方法往往存在权衡和代价.

May, 2020