动态学习系统中的算法审查

May, 2023

Algorithmic Censoring in Dynamic Learning Systems

Jennifer Chien, Margaret Roberts, Berk Ustun

TL;DR在动态学习系统中，选择性标记会导致检查，即对一个或多个子组中分配的持续负面预测。我们正式化了检查，展示了它如何出现，并强调了检查检测的困难。我们考虑对检查的保障 - 救济和随机探索 - 两者都确保我们收集标签以观察到否则不会被观察到的点。结果技术允许来自被审查小组的示例进入培训数据并更正模型，我们的结果突显了检查的未测量危害，并证明了在一系列数据生成过程中缓解策略的有效性。

Abstract

dynamic learning systems subject to selective labeling exhibit censoring, i.e. persistent negative predictions assigned to one or more sub

dynamic learning selective labeling censoring recourse randomized exploration

发现论文，激发创造

专家一致性存在下的有选择标签学习

本论文探讨选择性标签下算法辅助决策学习的问题，介绍为什么标准方法无法有效处理选择性标签的普遍选择偏误问题，提出了一种数据增强方法，既可以利用专家一致性减轻选择性标签导致的部分盲目性，也可以经验验证学习是否会导致易受系统性歧视的不可靠模型。

Jul, 2018

带审查的纵向公平

本文提出了一种适用于在纵向受限制环境中的公平性测量和去偏置算法，以解决现有公平性研究在时间到事件不确定时因被审查的类标签和不适用而造成的难题，并在四个被审查的数据集上进行了实验。

Mar, 2022

学习中的个体公平性保证与审查

研究机器学习算法如何实现公平性是机器学习中一个重要的领域。为了在构建机器学习系统时考虑公平性，这篇文章提出了一种新的公平性模型，即在具有审查制度的情况下进行个体公平性学习，探索了缺乏类标签前提条件的情况下如何对待相似的个体并减少歧视。本文在三个真实世界的数据集上验证了该方法的卓越表现，既能最小化歧视，又能保持预测性能。

Feb, 2023

使用机器学习扩充规则驱动的 DNS 审查检测能力

本研究使用机器学习模型，针对特定网站进行探测，以极大地提高检测域名系统屏蔽的效率。同时，使用有监督和无监督模型，以便从不同的监测平台中学习检测启发式，发现新的屏蔽实例和阻断标志，并证明这些方法能够揭示大量被现有启发式方法忽略的新 DNS 屏蔽签名。

Feb, 2023

从有偏选择标签到伪标签：一种期望最大化学习框架应对有偏决策

我们提出了一种名为不平等审查的算法，用于处理标签的选择性问题，并通过理论分析和验证实验证明了其在模型性能上的好处。

Jun, 2024

不确定情况下的公正决策

该研究关注人工智能决策系统的公平性问题，提出了一种在存在不确定性的情况下，对长期数据进行带公平性约束的监督学习的新方法，能有效减少基于数据的不公平决策。

Jan, 2023

化学数据审查以减轻双重使用风险

本文提出了一种基于模型的方法来有选择性地噪声化数据集，同时保留有利于深度神经网络训练的数据，以减轻化学领域中化学数据集恶意使用的风险，结果表明，选择性噪声化暴露的数据集具有对敏感标签预测产生控制的模型方差和偏差的作用，并且省略敏感数据往往增加了模型方差以减轻双重使用。

Apr, 2023

基于被审查反馈的学习泛化误差界

非独立同分布的数据和带有审查反馈的数据对学习理论中的泛化误差界限有影响，本文通过推导改进的 Dvoretzky-Kiefer-Wolfowitz 不等式来界定这种影响，并通过分析探索技术的有效性提供新的误差界限模型。

Apr, 2024

利用弱监督学习方法消除机器学习模型中的偏见

我们提出了针对连续敏感变量的偏见缓解策略，该策略基于经济计量学领域的内生性概念，并采用弱监督学习方法，对一小部分可进行公平测量的数据进行处理。结果表明我们的方法对实际应用的效果非常接近。

Feb, 2024

通过解耦置信学习缓解标签偏差

通过提出一种修剪方法，Decoupled Confident Learning (DeCoLe)，来解决标签偏见问题，并在仇恨言论检测领域应用其性能，成功识别了偏见标签并超过其他方法。

Jul, 2023