Mar, 2022

机器学习和人工智能系统的数据可代表性

PDF
TL;DR本文研究数据的代表性对于通过机器学习模型进行数据推断至关重要，探讨了模型中的偏见和公正性，以及与输入数据固有偏见的关系。本文介绍了三个可测量概念，以帮助集中观点并评估不同的数据样本。通过对美国人口普查数据的实证演示，我们评估了这些概念之间的对比。最后，我们提出了一个问题框架，帮助设计人员在数据文档模板中考虑数据的代表性。
发现论文，激发创造
  • 数据集代表性与下游任务公平

    数据集的代表性与分类器公平性之间存在复杂的关系；平衡这两个量需要模型和数据集设计者特别注意。

    Jun, 2024

  • 统计学、政治学和机器学习中的代表性问题

    本研究概述了所谓代表性概念的历史、定义和争议，探讨了其在统计学、政治和现代机器学习中的重要性、应用和价值观冲突。

    Jan, 2021

  • 辅助性数据集中的数据代表性：一项元分析

    本文研究 AI 公平性和包容性中的困境，并探讨了使用 accessibility datasets 对有潜力缓解 AI 偏见的不同人群的代表性。我们发现，accessibility datasets 代表不同年龄段的人，但存在性别和种族代表性差距。同时，我们还研究了人口统计变量的敏感性和复杂性如何使分类变得困难和不一致，希望我们的工作能够扩大边缘社区在 AI-infused 系统中的代表性。

    Jul, 2022

  • 构建公平训练数据集的自适应采样策略

    本文提出一个数学模型以创造具有代表性的数据来解决机器学习模型在非代表性数据集上产生的问题。我们将数据集创建问题形式化为一个约束优化问题，并提出了一种灵活的方法，它包含模型构建者和其他利益相关者的偏好，以及学习任务的统计特性。此外，我们证明，在一定条件下，即使没有关于学习率的先前知识，该优化问题也可以高效地求解。通过在合成基因组数据上进行的模拟研究，我们发现我们提出的自适应采样策略优于多种常用的数据收集启发式算法，包括等量和比例采样，并证明了通过策略数据集设计构建公平模型的价值。

    Jan, 2022

  • 应用典型度量方法评估决策树处理未知车辆碰撞数据的可靠性

    研究论文通过理论和实验，探讨了 ε- 代表性方法在决策树中评估数据集相似性的可靠性，发现 ε- 代表性与特征重要性排序具有显著相关性，并将结果扩展到 XGboost 在未见车辆碰撞数据中的应用。

    Apr, 2024

  • AI 数据集中的年龄表征和代表性理解

    研究发现在 AI 数据集中老年人群体很少被重视或者代表，作者呼吁研究工作者应该在创建数据集时更多地考虑代表老年人的因素。

    Mar, 2021

  • 可证明公正的表述

    本文介绍了一种基于代表函数的方法，证明了其可实现机器学习中的公平，适用于聚合模型，具有透明度和防止恶性激励的优势，并应用于金融和刑事司法数据集。

    Oct, 2017

  • 无表示就无计算：通过多样性避免数据和算法偏见

    本文提倡将多样性作为核心优先事项，以实现算法公平所追求的不歧视和公正目标，并为计算机科学的从业人员提供具体的多样性措施建议，以增加多样性，并提高算法公平的实践水平。

    Feb, 2020

  • 如何做到公正和多样化？

    研究机器学习中的算法偏差问题，提出一种同时确保公平和多样性的数据子抽样算法，并在图像总结任务中取得了显着的公平性改善和不太牺牲特征多样性的结果。

    Oct, 2016

  • 人工智能与统计学

    在人工智能研究中，通过人机协作、考虑种群、问问题、培训数据的代表性以及结果的审查等统计概念，采用随机化和本地控制的实验设计原则以及稳定性原则来获得算法和数据结果的可重复性和解释性。

    Dec, 2017