AAAIMay, 2021

学生成绩预测中的公平性和算法公正

PDF
TL;DR本研究以高等教育成绩预测为例，试图通过几种算法平衡策略，特别是对标签和示例进行平衡，试图最小化算法与种族之间的差异，提出了一种对抗学习方法，相对公平；此外，对历史上受到服务不足的群体进行样本抽取，能够最大程度地提高预测性能。同时，我们的研究结果还填补了 AI 资源方面平等和公正框架方面的不足。
发现论文，激发创造
  • 教育中的算法公平性

    介绍算法公平性在教育中的应用，关注预测模型、偏见和歧视，给出了在教育技术中如何促进算法公正性的方针建议。

    Jul, 2020

  • 评估预测学生成功的公平性权衡

    本文研究如何建立预测模型以帮助识别处于风险中的学生并为他们提供更好的支持，但预测模型可能会存在性别和种族偏见，因此需要进行后续调整以提高公平性并平衡不同的公平措施。

    Jun, 2020

  • 评估学生绩点预测问题中的群体公平性措施

    本文对教育数据挖掘中不同组公平措施和学生表现预测模型进行比较，发现公平措施和成绩阈值的选择对模型的预测效果具有重要影响。

    Aug, 2022

  • 机器学习中的公平性与医疗保健中的公平性相遇

    本研究提出了一种基于软件工程原理的人工智能框架，用于在保证医疗保健公平的同时识别和缓解数据和模型中的偏见和歧视，通过案例研究表明数据中的系统性偏见会导致模型预测中的偏差增大，并提出了机器学习方法来预防这种偏见。未来的研究目标是在实际的临床环境中测试和验证所提出的 ML 框架，以评估其在促进健康公平方面的影响。

    May, 2023

  • 人工智能教育公平性挑战和需求专家观点

    本研究通过采用匿名调查和专家面谈的方式研究了如何在教育人工智能应用程序的开发过程中考虑公平性的挑战和需求，以及对数据挖掘和机器学习的推动作用，为实现更公平的教育人工智能应用程序提出了具体方向。

    Jun, 2022

  • 公平精确性平衡下的内在公平性 - 准确性权衡

    机器学习在执法、刑事司法、金融、招聘和招生等领域的日益广泛应用，确保机器学习辅助决策的公平性变得越来越关键。本文以统计学的 “平等机会” 概念为基础，研究了公平性和准确性之间的折衷。我们提出了一个新的准确性上限（适用于任何分类器），并将其作为公平预算的函数。此外，我们的上限还与数据、标签和敏感群体属性的底层统计学关系密切相关。通过对三个真实世界数据集（COMPAS、成年人和法学院）进行经验分析，我们验证了我们理论上限的有效性。具体而言，我们将我们的上限与文献中各种现有公平分类器所实现的折衷情况进行了比较。我们的结果表明，在统计差异存在的情况下，实现高准确性条件下的低偏差可能从根本上受到限制。

    May, 2024

  • 算法公正性

    本文概述了在使用人工智能算法时如何识别、测量和提高算法公正性的主要概念，并讨论了算法偏见和不公正的原因、公正的常见定义和度量以及预处理、处理中和后处理机制，最终回顾了几个新兴的算法公正性研究子领域。

    Jan, 2020

  • 探究医学图像分析中的标定偏差问题

    本研究探讨了医疗影像分析中的人工智能系统的公平性问题，特别是围绕判定偏见和校准偏见的研究，并展示了通常使用的多种校准指标对样本量存在系统性偏差的情况，如果未考虑到这一点，可能会导致错误的公平性分析。

    May, 2023

  • 公平架构：超越预测结果均等的公平

    该论文研究了机器学习决策算法在预测决策中的使用，强调了公平问题以及如何实现公正决策，提出了一个平等框架并给出了平等评分算法和指导决策者的问题。

    Apr, 2022

  • 机器学习在公共政策领域中公平性和准确性之间取得的可忽略权衡的经验观察

    使用机器学习来减少公平性差异和确保准确性在真实世界中的平衡是政策制定者关注的问题，本文通过实证研究发现，在教育、心理健康、刑事司法和住房安全等领域中使用后期处理措施来解决公平性问题，能够显著提高公平性而不牺牲准确性，实现在政策中使用机器学习的目的。

    Dec, 2020