May, 2024

DemOpts: COVID-19 案件预测模型中的公平性修正

PDF
TL;DR我们展示了最先进的深度学习模型在预测 COVID-19 病例时输出的平均预测误差在不同种族和民族群体之间存在显著差异，这可能支持不公平的政策决策。我们还提出了一种新颖的去偏方法 DemOpts，用于提高基于可能存在偏见数据集训练的深度学习预测模型的公平性。我们的结果显示，DemOpts 可以实现更好的误差平等，从而有效降低更多种族和民族群体的平均误差分布差异。
covid-19 forecasting modelsdeep learning modelsunder-reporting biassampling biasde-biasing method
发现论文，激发创造
  • 审计 COVID-19 预测中心案例预测模型的公平性

    本论文对 COVID-19 预测中心进行了全面的公平性分析，结果显示在社会决定因素上存在显著的差异预测表现，其中少数种族与民族群体以及不发达地区往往与更高的预测误差相关联。我们希望这项工作能促使 COVID-19 建模者和疾病控制中心在报告准确性的同时，报告公平指标，并反思模型对特定社会群体和情境可能造成的危害。

    May, 2024

  • 深度伪造检测中公平性的提高

    本文提出了一种新的算法来训练公平的 deepfake detection model，以解决使用偏见的数据训练深度学习模型可能会导致不公平表现的问题。实验结果表明，该方法可以提高 deepfake detection 的公平性和鲁棒性。

    Jun, 2023

  • 深度学习短期犯罪预测中提高公平性的研究

    本研究提出了一种新颖的深度学习架构，结合了预处理方法和处理方法来提高预测的公平性，结果表明相比于偏见校正方法和没有任何偏见校正的模型，所提出的模型在提高犯罪预测的公平性方面取得了进步，但牺牲了一定的准确性。

    Jun, 2024

  • 内生行为的公平预测

    本文通过研究模型，发现在刑事司法中，平衡不同人群的类型 I 和类型 II 错误与最小化总犯罪率目标是一致的，而其他流行的公平理念则不然。

    Feb, 2020

  • 基于深度神经网络和离散选择模型的旅行行为预测中的机会平等

    本文研究机器学习在旅行行为建模领域的应用并发现其普遍存在的预测失误和潜在的公平性问题，提出了一种基于绝对相关性规则的算法来解决该问题。

    Sep, 2021

  • 基于重复损失最小化的公平性无需人口统计信息

    通过采用分布式鲁棒优化的方法，我们可以在不考虑特定群体身份的情况下控制少数群体的风险水平，从而避免了现有的经验风险最小化方法在时间推移中导致的表征偏差加剧。在一个真实的文本自动完成任务中，这种方法提高了少数群体用户的满意度。

    Jun, 2018

  • 现实世界深度学习应用中的模型选择差异影响

    本文研究算法公平性中的偏见数据和人类偏好在模型选择中的作用，并通过真实医学影像数据的深度学习模型实证了模型比较指标的选择，特别是那些不考虑变异性，可能会对模型选择结果造成显着的偏差。

    Apr, 2021

  • 机器学习在公共政策领域中公平性和准确性之间取得的可忽略权衡的经验观察

    使用机器学习来减少公平性差异和确保准确性在真实世界中的平衡是政策制定者关注的问题，本文通过实证研究发现，在教育、心理健康、刑事司法和住房安全等领域中使用后期处理措施来解决公平性问题，能够显著提高公平性而不牺牲准确性，实现在政策中使用机器学习的目的。

    Dec, 2020

  • 组条件缺失人口的公平风险

    通过概率插值敏感特征并联合学习组条件缺失概率的变分自编码器，我们提出了公平感知分类模型，以解决隐私、法律问题和个体恐惧所导致的敏感特征全知要求的实际不可行性问题，我们的模型在图像和表格数据集上表现出较好的准确性和公平性平衡。

    Feb, 2024

  • 提升基于 AI 的出行需求预测模型的公平性

    提出一种新的方法来解决基于人工智能的交通出行需求预测中存在的公平性问题，通过在交通出行需求预测模型的损失函数中添加公平性正则项，以相应受保护属性（如种族、收入等）与预测准确度之间的相关性作为衡量指标，来同时考虑预测准确度和公平性。在芝加哥的真实骑行约车数据上进行实证分析，结果表明该方法有效地解决了预测准确性与公平性的平衡问题。

    Mar, 2023