本文提出一个数学模型以创造具有代表性的数据来解决机器学习模型在非代表性数据集上产生的问题。我们将数据集创建问题形式化为一个约束优化问题，并提出了一种灵活的方法，它包含模型构建者和其他利益相关者的偏好，以及学习任务的统计特性。此外，我们证明，在一定条件下，即使没有关于学习率的先前知识，该优化问题也可以高效地求解。通过在合成基因组数据上进行的模拟研究，我们发现我们提出的自适应采样策略优于多种常用的数据收集启发式算法，包括等量和比例采样，并证明了通过策略数据集设计构建公平模型的价值。

Jan, 2022

数据集的代表性与分类器公平性之间存在复杂的关系；平衡这两个量需要模型和数据集设计者特别注意。

Jun, 2024

研究机器学习中的算法偏差问题，提出一种同时确保公平和多样性的数据子抽样算法，并在图像总结任务中取得了显着的公平性改善和不太牺牲特征多样性的结果。

Oct, 2016

为了防止受保护人口受到歧视，减轻数据拥有者法律责任，本文尝试通过映射特征到公平表征空间，预防性地消除特征与敏感属性之间的相关性。实验结果表明，平滑表征分布可提供公平证书的泛化保证，同时不降低下游任务的准确性。

Jun, 2020

本文研究数据的代表性对于通过机器学习模型进行数据推断至关重要，探讨了模型中的偏见和公正性，以及与输入数据固有偏见的关系。本文介绍了三个可测量概念，以帮助集中观点并评估不同的数据样本。通过对美国人口普查数据的实证演示，我们评估了这些概念之间的对比。最后，我们提出了一个问题框架，帮助设计人员在数据文档模板中考虑数据的代表性。

Mar, 2022

本研究旨在选择数据子集用于大型语言模型的微调，以更有效地按照指令执行。我们使用决定性点过程来捕捉指令微调数据集的多样性和质量，提出使用以对数行列式距离衡量数据集的多样性。实验证明，在归一化权重梯度空间中所提出的多样性度量与下游指令跟随性能有关，可用于确定数据选择何时最有帮助，并分析数据集的策略。我们在各种指令微调数据集上展示了我们方法的实用性。

Feb, 2024

研究表明，任务分配在元学习者的表现中起着至关重要的作用。传统的智慧认为，任务多样性应该能够提高元学习的性能。然而，本文发现相反的证据。通过实验证据和理论证明，我们发现，将任务分配的多样性降低到一个子集水平，有时的效果甚至更好，并且将任务分配的多样性提高到更高水平的某些情形下，反而会阻碍模型的运作，并且不会带来预期的性能提升。

Jan, 2022

探讨多个人口群体数据训练的机器学习模型容易存在表征失调，选择公平性标准对用户动态影响的必要性，防止在样本池中某些群体的逐渐消失和表征差距不断恶化的问题。基于一般的用户动态模型，选择合适的公平标准。

May, 2019

该研究使用机器学习模型对人事评估进行建模，探讨训练数据中负面影响比率对模型预测结果的影响，发现训练数据中负面影响比率与模型异常影响呈线性关系，但是从训练数据中去除负面影响只能略微减少异常影响，同时会对模型准确性产生负面影响。

Apr, 2023

本篇研究旨在提出一种新算法，用于学习公平的表征，以在分类环境下同时缓解不同人口统计特征子组之间的两种不平等概念。通过平衡误差率和条件对齐的表征等两个关键组件，它对确保跨组别的准确平等性和平衡假阳性和假阴性率发挥了作用。此外，我们还通过理论和两个实际实验证明，与现有的学习公平表征的算法相比，在平衡数据集上提出的算法可以在保持效用公平性的前提下得到更好的公平性。

Oct, 2019