视觉偏差缓解的知识不确定性加权损失

CVPRApr, 2022

视觉偏差缓解的知识不确定性加权损失

Epistemic Uncertainty-Weighted Loss for Visual Bias Mitigation

Rebecca S Stone, Nishant Ravikumar, Andrew J Bulpitt, David C Hogg

TL;DR提出一种基于贝叶斯神经网络和认知不确定性加权损失函数的方法，动态识别可能训练样本中的偏见并在训练期间对其加权，以减弱深度神经网络在视觉数据中出现的学习偏见。在偏见基准数据集和实际面部检测问题上，展示了这种方法缓解视觉偏见的潜力，并考虑了方法的优点和缺点。

Abstract

deep neural networks are highly susceptible to learning biases in visual data. While various methods have been proposed to mitigate such bias, the majority require explicit knowledge of the biases present in the trainin

deep neural networks visual bias bayesian neural networks epistemic uncertainty training data

发现论文，激发创造

贝叶斯神经网络后验估计尖化对隐性视觉偏差的缓解

这篇论文提出了一种基于贝叶斯神经网络的去偏方法，通过刻画后验概率与数据偏差 (or 伪相关性) 之间的关系，利用高确信性的核心特征代替不确定性高的特征，从而提高了模型的公平性和准确性。

Mar, 2023

评估可扩展的贝叶斯深度学习方法在稳健计算机视觉中的应用

该论文提出了一种深度学习可扩展的确定性和不确定性评估框架，并对两种最先进的可扩展方法进行了比较，即集成和 MC-dropout，结果表明集成方法提供更可靠和实用的不确定性估计。

Jun, 2019

利用证据理论的深度学习进行分类不确定性量化

通过在类概率上使用狄利克雷分布对主观逻辑进行建模并使用确定性神经网络从数据学习收集导致预测的证据的功能，我们提出一种与贝叶斯神经网络正交的方法，该方法可以直接推断出预测的不确定性。我们的方法在检测超出分布的查询和对抗性扰动方面取得了空前的成功。

Jun, 2018

贝叶斯深度学习在计算机视觉中需要哪些不确定性？

本研究探讨了在计算机视觉任务中，使用贝叶斯深度学习模型对本质和表观不确定性进行建模的影响，并提出了一种新的深度学习框架，将输入相关的本质不确定性与表观不确定性相结合。我们还提出了一种新的损失函数，可解释为学习的衰减，将其应用于像素级语义分割和深度回归任务中，使得模型更加鲁棒并取得新的最先进的结果。

Mar, 2017

深度神经分类器的偏差减少不确定性估计

本研究提出了一种基于模型历史快照的算法，用于在非贝叶斯深度神经分类中，有选择地估计高度自信点的不确定性，这解决了从已训练网络中提取不确定信号的已知方法所带来的偏差估计问题，研究表明所提出的算法比所有已知方法的不确定性估计结果更加准确。

May, 2018

迈向无偏随机不确定性估计的一步

该研究提出了一种新的数据不确定性估计方法，通过主动去噪处理观察数据，以更准确地近似实际数据不确定性。实验证明，与标准方法相比，我们提出的方法更接近实际数据不确定性。

Dec, 2023

神经网络中的隐含权重不确定性

该论文介绍了 Bayes by Hypernet，一种新的变分逼近方法，通过将超网络视为隐式分布来解决现代神经网络在未见过的、嘈杂的或标记错误的数据上过于自信，并且不能产生有意义的不确定性度量的短板，本文在 MNIST 和 CIFAR5 任务中表现优异且最具鲁棒性，同时满足复杂度、可扩展性和准确度的要求。

Nov, 2017

证据深度学习方法是否能真实地表示认知不确定性？

可信的机器学习系统不仅应返回准确的预测结果，还应提供可靠的不确定性表示。贝叶斯方法通常用于量化生成论和认知性不确定性，但近年来，备选方法，如证据深度学习方法，已变得流行。这篇论文提出了证据深度学习的新理论洞见，强调了优化二阶损失函数和解释由此得出的认知性不确定度度量的困难。通过一个系统的实验设置，涵盖了分类，回归和计数的多种方法，对二阶损失最小化中的确认性和收敛性问题，以及认知不确定性度量的相对（而不是绝对）性质提供了新的见解。

Feb, 2024

忽视偏见：从深度神经网络嵌入中明确移除偏差和变异

通过算法和祖源数据库的使用，可以提高神经网络在极度偏斜的数据集上的分类准确性，并消除与数据集相关的偏见和变异。

Sep, 2018

用于改进对语义分割的对抗攻击的不确定性加权损失函数

本文介绍了一种基于不确定性加权方案的损失函数，用于对抗攻击，通过将更容易受到干扰的像素分类放大并清零已经被错误分类的像素的损失，以提高扰动性能。在多个数据集和模型的实证分析中，我们证明了这些加权方案能够显著改善扰动性能。

Oct, 2023