IFBiD: 推理无关的偏差检测

AAAISep, 2021

IFBiD: Inference-Free Bias Detection

Ignacio Serna, Daniel DeAlcala, Aythami Morales, Julian Fierrez, Javier Ortega-Garcia

TL;DR利用卷积神经网络的权重分析来检测模型的偏差，本文在使用有色 MNIST 数据库的玩具例子和使用最先进的方法和实验资源进行性别识别的现实案例研究中，发现无需对特定输入进行模型推理，查看权重即可判断模型是否存在偏差。在 MNIST 模型中，我们能够以超过 99% 的准确率检测出是否存在强烈或微弱的偏见，并且还能以超过 70% 的准确率分类四个偏见水平。对于面部模型，我们在区分针对亚洲人、黑人或白人的有偏见模型方面实现了 90% 的准确率。

Abstract

This paper is the first to explore an automatic way to detect bias in deep convolutional neural networks by simply looking at their weights. Furthermore, it is also a step towards understanding neural networks and how they work. We show that it is indeed possible to know if a model is

bias detection convolutional neural networks weights analysis gender detection model inference

发现论文，激发创造

InsideBias: 深度网络偏差测量与应用于面部性别生物特征识别

研究探讨基于深度神经网络架构的学习过程中的偏见，分析了偏见如何通过玩具示例和案例研究影响深度学习过程中的性别检测模型，提出了一种新的 InsideBias 方法来检测偏见模型。

Apr, 2020

视觉偏差缓解的知识不确定性加权损失

提出一种基于贝叶斯神经网络和认知不确定性加权损失函数的方法，动态识别可能训练样本中的偏见并在训练期间对其加权，以减弱深度神经网络在视觉数据中出现的学习偏见。在偏见基准数据集和实际面部检测问题上，展示了这种方法缓解视觉偏见的潜力，并考虑了方法的优点和缺点。

Apr, 2022

忽视偏见：从深度神经网络嵌入中明确移除偏差和变异

通过算法和祖源数据库的使用，可以提高神经网络在极度偏斜的数据集上的分类准确性，并消除与数据集相关的偏见和变异。

Sep, 2018

深入探讨数据集偏差

本文通过研究不同表示下的现有去偏方法的表现，旨在验证在面临数据集偏差问题时使用 DeCAF 特征的潜力，并就数据集偏差问题的哪些方面是已经解决的，哪些方面是需要解决的进行分析。

May, 2015

快速模型去偏置与机器遗忘

最近的研究发现，深度神经网络在许多实际场景中可能表现出偏见。本研究提出了一种快速模型去偏方法（FMD），该方法通过显式的反事实概念识别偏见属性，并使用影响函数量化数据样本的影响，进而设计了一种基于机器遗忘的策略来高效有效地消除模型中的偏见。实验证明，与现有先进方法相比，我们的方法在达到更高或相当的准确性的同时，具有更少的偏见和更低的去偏成本要求。

Oct, 2023

深度卷积网络中归纳偏见的理论分析

本文研究卷积神经网络中的归纳偏差，证明了一定深度下 CNN 可以进行连续函数的逼近以及 CNN 具有吸收长距离稀疏相关性的能力，并通过对称性分析证明权重共享与局部性对学习的重要性。

May, 2023

去偏术者：奇妙的权值及其发现方法

算法偏见、去偏方法、深度学习、基地址模型、架构对策

Mar, 2024

InBiaseD: 通过感知形状来改善归纳偏置蒸馏从而提高泛化性能和鲁棒性

提出了 InBiaseD 来提取感知偏倚和为神经网络带来形状意识。该方法通过偏差对齐目标来强制学习更通用的表示，从而减轻了深度神经网络中的一些缺点，如易受损的数据。 InBiaseD 通过无缝插入现有的对抗训练方案，对改善分类和鲁棒性之间的平衡起到了帮助的作用。

Jun, 2022

基于偏倚和去偏倚的方法实现公平知识传递，用于公平皮肤分析

基于深度学习模型的皮肤疾病诊断中，为了解决公平性问题且不损害预测准确性，我们提出了一种基于两个偏倚的教师模型的方法，通过权重损失函数进行偏倚与去偏倚的训练，提高了模型的准确度和公平性。

May, 2024

评估图像分类中的偏差

本研究通过使用归因地图的方法，系统性地揭示数据偏差，从而证明了某些归因地图技术比其他技术更好地凸显了数据中的偏差，并且度量可以支持发现偏差。

Jul, 2021