ECCVJul, 2022

面部属性分类的公平感知梯度修剪方法 FairGRAPE

PDF
TL;DR本文提出了一种新的剪枝方法，称为公平感知梯度剪枝方法（FairGRAPE），以平衡不同子组在神经网络压缩过程中可能存在的影响，该方法在面部属性分类任务中对四个数据集（FairFace，UTKFace，CelebA 和 ImageNet）进行了测试，在高剪枝率（99%）的情况下比其他最先进的剪枝算法减少了达到 90% 的性能下降差异。
pruning techniquesneural networksbias amplificationfairgrapeface attribute classification
发现论文，激发创造
  • 公正的修剪：通过修剪实现皮肤病诊断的公平性

    提出一种名为 FairPrune 的深度学习方法，在不降低模型精度的情况下，通过剪枝来降低敏感群体和非敏感群体之间的分类差距，从而实现公平的医学图像分类。

    Mar, 2022

  • 公平感知梯度下降

    本研究提出了一种名为 FairGrad 的方法，实现了对一个群体内部的公平性。通过可迭代地学习基于群体权重的重新加权方案，FairGrad 可以很容易地实现，并可以适用于各种标准公平性定义，同时在各种数据集上都取得了可比较的成果。

    Jun, 2022

  • 强健数据修剪：揭示和克服隐性偏见

    在数据密集型模型的时代，精心选择训练数据对于减轻深度学习的昂贵成本至关重要。本文通过删除冗余或无信息的样本来解决这个问题，并提出了一个公平感知的修剪方法，其在标准计算机视觉基准上展示了良好的性能，与现有算法形成鲜明对比。

    Apr, 2024

  • 在一个运行中耦合公平与修剪：一个双层优化视角

    通过公平剪枝技术，我们提出了一种基于稀疏模型的公平剪枝框架，旨在在保持性能的同时确保公平性，并通过实验证明了该方法在维持模型公平性、性能和效率方面的优越性。

    Dec, 2023

  • 公平人脸属性分类的分布生成增强

    基于生成模型，提出了一个新的两阶段框架来在有偏数据上训练公平的面部属性分类模型，通过编辑潜在的虚假属性并促进模型对这些属性的不变性，实现在面部属性分类中提升公平性而不损害准确性。

    Mar, 2024

  • 通过通道修剪实现皮肤病诊断公平性

    提出了一种创新且可适应的基于软最近邻损失的通道修剪框架，通过通道修剪实现公平性，有效提高公平性而不明显损失准确性。

    May, 2024

  • 通过减少敏感属性泄漏，提高图神经网络的公平性

    通过考虑特征传播和相关性变化等因素来减轻歧视，设计了两种特征蒙版策略；提出 FairVGNN 用于生成功能的公正视图，实验结果证明其在模型效用和公正性之间具有更好的权衡。

    Jun, 2022

  • 公平性生成对抗网络

    本文介绍了公平 GAN，一种生成数据集的方法，这个数据集类似于给定的多媒体数据集，但在分配决策中对受保护属性更公平。我们提出了一种新颖的辅助分类器 GAN，力求实现人口统计学公平或机会平等，并在几个数据集上展示了实证结果，包括名人面孔属性 (CelebA) 数据集、Quick, Draw! 数据集以及一个足球球员图像数据集和他们被罚下的进攻。这种方法适合吸收未标记的数据，我们利用这个方法增强了足球数据集。在生成逼真的图像的同时，方法倾向于改善人口统计学公平和机会平等。

    May, 2018

  • 通过具有学习保证的加权投票提高牺牲准确性的公平性

    针对机器学习系统中偏见问题严重影响公平性的现状，我们提出了一种通过加权投票对预测结果进行校正的分析方法，同时基于该分析提出了一种基于主导和帕累托最优概念的修剪方法，能够在保证较小的准确性下提高公平性，实验证明该方法较为可行。

    Jan, 2023

  • 基于梯度的预训练语言模型内部注意力剪枝

    本文提出了一种基于梯度的内部关注力修剪方法（GRAIN），可以解决现有算法在模型剪枝时受限于关注头大小和前馈隐藏维度的问题，并结合了知识蒸馏技术，是一个高效的模型压缩方法。

    Dec, 2022