FairNeuron：利用选择性神经元对深度神经网络进行对抗游戏以提高公平性

Apr, 2022

FairNeuron：利用选择性神经元对深度神经网络进行对抗游戏以提高公平性

FairNeuron: Improving Deep Neural Network Fairness with Adversary Games on Selective Neurons

Xuanqi Gao, Juan Zhai, Shiqing Ma, Chao Shen, Yufei Chen...

TL;DR本文提出了基于个体神经元表现出的矛盾现象的 FairNeuron 工具，通过选择性的神经元 Dropout 来实现模型准确性和公平性之间的平衡，从而有效提高所有模型的公平性，同时保持稳定的实用性。

Abstract

With deep neural network (DNN) being integrated into a growing number of critical systems with far-reaching impacts on society, there are increasing concerns on their ethical performance, such as fairness. Unfortunately, model fairness and accuracy in many cases are contradictory goals

deep neural network model fairness adversarial game fairneuron selective dropout

发现论文，激发创造

FAIRER: 公平作为决策合理性对齐

从决策合理性角度出发，通过分析不同子组中神经元的影响，定义参数平衡分数来表征公平决策过程，提出了一种全新的公平性训练任务 - 决策合理性对齐，旨在使深度神经网络在中间层和最终预测时对子组的响应保持一致，提出了一种渐进式算法，即梯度引导的平衡对齐，可以显著提高公平性，同时保持准确性水平，且优于其他方法。

Jun, 2023

RobustFair: 公平困惑导向的对抗评估梯度搜索

提出了一种使用 “fairness confusion” 概念的方法来平衡准确性和个体公平性之间的关系，使用由 “fairness confusion directed gradient search” 制作的敌对扰动的方法来改善深层神经网络的 “accurate fairness”，提高准确性和个体公平性。

May, 2023

训练公平神经网络的技术挑战

机器学习算法已被广泛应用在各种领域，然而由此带来的公平性问题在高风险案例（如人脸识别和医学影像分析）中引起了极大关注。本文针对深度神经网络中公平性的限制条件及其行为矫正方法的有效性进行了研究，实验结果表明，在特定公平度量下，大型模型会对公平的过度拟合而产生一系列意外和不良后果。

Feb, 2021

以鲁棒性促进公平：探究深度学习中的鲁棒性差异性

该研究采用两种方法来衡量深度神经网络中的鲁棒性偏差。实证研究结果表明，在大多数情况下，存在一些少数群体处于劣势，并提出了数据分布和学习决策边界的高度复杂性是导致此类偏向的原因。

Jun, 2020

图神经网络公平性的对抗攻击

对公平性感知的图神经网络进行了对抗攻击研究，提出了 G-FairAttack 攻击框架，可有效地破坏不同类型的图神经网络的公正性而保持攻击不被察觉，以此揭示了公平性感知的图神经网络潜在的漏洞，并引导进一步研究图神经网络在公平性方面的鲁棒性。

Oct, 2023

对抗神经元剪枝净化植入后门的深度模型

通过 Adversarial Neuron Pruning (ANP) 修复易崩溃的 DNN 神经元，即可在不影响性能的情况下去除后门攻击。

Oct, 2021

通过神经网络实现公平性的 FNNC

提出了一种基于神经网络的框架，使用拉格朗日乘数将公平性约束条件引入到损失函数中，以实现分类中的公平性，同时保持高精度。

Nov, 2018

快速与公平：机器学习中公平性的高效二阶鲁棒优化

通过对抗训练技术来开发更公平的深度神经网络 (DNNs) 以减轻已知存在的固有偏见。我们提出了一个强大的优化问题，并证明这可以改进多个数据集的公平性，包括合成数据和真实世界数据，使用一个仿射线性模型。通过利用二阶信息，我们能够比纯一阶方法更高效地找到优化问题的解决方案。

Jan, 2024

通过向非关键神经元注入噪音来提升 DNN 的对抗性强度和效率

通过引入一种非均匀噪声注入算法，本文提出了一种同时提高对抗鲁棒性和执行效率的有效方法，实验证明该方法在多种攻击场景、模型架构和数据集上成功提升了鲁棒性和效率。

Feb, 2024

输入扰动对稳健准确公平性的双刃剑

深度神经网络对于对抗性输入扰动具有敏感性，为了同时表征预测准确性和个体公平性对于对抗性扰动的易感性，我们引入了一个新的鲁棒性定义，称为鲁棒准确公平性。我们提出了一种名为 RAFair 的对抗性攻击方法，用以暴露在深度神经网络中存在的虚假或有偏见的对抗缺陷，可以通过精心设计的良性扰动来纠正这些对抗实例，从而使其预测准确且公平。我们的工作探索了对输入扰动在深度神经网络的鲁棒准确公平性上的双刃剑作用，并展示了利用良性扰动来纠正对抗实例的潜力。

Apr, 2024