CVPRJan, 2023

Knockoffs-SPR：带噪声标签学习中的干净样本选择

PDF
TL;DR本文提出了一种用于学习带噪标签的理论上保证的干净样本选择框架，通过 Scalable Penalized Regression（SPR）方法建模网络特征与 one-hot 标签之间的线性关系来识别干净数据，并通过数据自适应方法的 Knockoffs-SPR 控制假阳率，结果表明该方法有效。
neural networksnoisy labelsclean sample selectionscalable penalized regressionknockoff filters
发现论文，激发创造
  • 可扩展处罚回归用于带有噪声标签的学习中的噪声检测

    本研究提出基于理论保证的嘈杂标签检测框架，以检测和去除对于神经网络广义化和鲁棒性有损害的嘈杂数据，实验证明该框架的有效性。

    Mar, 2022

  • Jo-SRC：一种对抗噪声标签的对比学习方法

    该论文提出了一种名为 Jo-SRC 的噪声鲁棒方法，结合了样本选择和模型正则化，采用对抗学习的方式训练网络并引入一致性正则化，以提高模型的泛化性能。

    Mar, 2021

  • DeepDRK: 深度依赖规范化 Knockoff 用于特征选择

    基于深度依赖正则化 knockoff 的模型在虚假发现率 (FDR) 控制方面表现优异，特别是在样本量较小且数据分布复杂的情况下，对合成数据、半合成数据和真实世界数据都取得了更好的性能。

    Feb, 2024

  • SCOP: 可靠神经网络修剪的科学控制

    本文提出了一种可靠的神经网络修剪算法，通过建立科学的对照组来增加结果的可靠性，其中利用 knockoff feature 作为对照组，通过实验证明了该算法在 ResNet-101 模型上的参数减少以及 FLOPs 的削减率，与现有的算法相比性能更为优越。

    Oct, 2020

  • SSR: 学习未知标签噪声的高效稳健框架

    本文提出了一个基于 KNN 分类和参数化模型分类相结合的方法，命名为 Sample Selection and Relabelling（SSR），用于解决存在未知噪声数据的学习问题（Learning with Unknown Label Noise），该方法在 CIFAR10 / CIFAR100 以及 WebVision，Clothing1M 和 ANIMAL-10N 等真实世界噪声数据集上比以前的方法表现更好。

    Nov, 2021

  • 自适应半监督学习中的伪标签过滤

    本文提出了一种自适应伪标签过滤器（SPF），根据模型发展过程中的置信度分布自动过滤伪标签，与深度神经网络一起演化，无需手动调整，通过将 SPF 应用于现有的半监督学习方法，特别是在标记数据极少的情况下，证明可以提高半监督学习的性能。

    Sep, 2023

  • 标签噪声的协同稀疏恢复

    通过引入协同稀疏恢复（CSR）方法，该研究通过协调模型预测与噪声恢复来减小错误泄露，从而提高模型泛化性能和降低验证偏差。CSR + 是一种基于 CSR 的联合样本选择策略的学习框架，在具有更多类别和高比例实例特定噪声的数据集上表现出显著优势。实验结果证明，CSR 和 CSR + 相比同级别方法，在模拟和真实噪声数据集上都取得了卓越的性能。

    Apr, 2024

  • 从嘈杂的数据中获取可重复使用的样本以实现强鲁棒性学习

    通过识别和纠正可重复使用的样本，同时与清洁样本一起利用，更新网络，以应对在使用网络图像训练深度细粒度模型时，标签噪声的问题。

    Aug, 2020

  • 使用一般替代模型对样本选择进行抵抗标签噪声

    利用视觉 - 语言替代模型 CLIP 自动过滤噪声样本，并设计了一种适应性边界损失来规范由 CLIP 引入的选择偏差，从而提供对标签噪声的鲁棒性。在真实和合成噪声数据集上验证了我们提出的方法的有效性。

    Oct, 2023

  • 通过单个预训练的加强代理指导的仿制品特征选择

    我们引入一种创新的特征选择框架，通过强化学习，以模拟特征和经优化的 “knockoff” 特征指导特征选择过程，从而识别出最优和有效的特征子集。

    Mar, 2024