Apr, 2023

深度神经网络中的公平性缺陷信息论测试与调试

PDF
TL;DRDICE 是一种信息论测试和调试框架，通过量化含有决策数据的受保护信息来识别和定位深度前馈神经网络中的公平缺陷，在此基础上提出了一种因果调试框架来定位不足训练的层和神经元，并通过实验有效地生成有歧视性的实例。
deep feedforward neural networksfairness defectsdebugging aidsquantitative fairnesscausal debugging framework
发现论文，激发创造
  • 深度学习测试中重新思考多样性

    本文讨论了深度学习系统在测试中存在的漏洞和不公平性问题，提出了使用 6 个度量标准进行有针对性的测试的方法，并以实验证明该方法比传统多样性方法更为有效。同时，指出了软件工程界和深度学习领域之间存在的差异，以期在未来拓宽两者的研究实践。

    May, 2023

  • 以鲁棒性促进公平：探究深度学习中的鲁棒性差异性

    该研究采用两种方法来衡量深度神经网络中的鲁棒性偏差。实证研究结果表明，在大多数情况下，存在一些少数群体处于劣势，并提出了数据分布和学习决策边界的高度复杂性是导致此类偏向的原因。

    Jun, 2020

  • 测试前向神经网络训练程序

    该论文提出了一种名为 TheDeepChecker 的端到端基于属性的调试方法，以检测深度神经网络训练程序中的编码错误和系统失配，并表明其在检测准确性和深度学习故障覆盖面方面优于 Amazon SageMaker Debugger（SMD）的离线规则验证。

    Apr, 2022

  • 训练公平神经网络的技术挑战

    机器学习算法已被广泛应用在各种领域，然而由此带来的公平性问题在高风险案例（如人脸识别和医学影像分析）中引起了极大关注。本文针对深度神经网络中公平性的限制条件及其行为矫正方法的有效性进行了研究，实验结果表明，在特定公平度量下，大型模型会对公平的过度拟合而产生一系列意外和不良后果。

    Feb, 2021

  • FAIRER: 公平作为决策合理性对齐

    从决策合理性角度出发，通过分析不同子组中神经元的影响，定义参数平衡分数来表征公平决策过程，提出了一种全新的公平性训练任务 - 决策合理性对齐，旨在使深度神经网络在中间层和最终预测时对子组的响应保持一致，提出了一种渐进式算法，即梯度引导的平衡对齐，可以显著提高公平性，同时保持准确性水平，且优于其他方法。

    Jun, 2023

  • FairNeuron：利用选择性神经元对深度神经网络进行对抗游戏以提高公平性

    本文提出了基于个体神经元表现出的矛盾现象的 FairNeuron 工具，通过选择性的神经元 Dropout 来实现模型准确性和公平性之间的平衡，从而有效提高所有模型的公平性，同时保持稳定的实用性。

    Apr, 2022

  • 揭示和减缓 DNNs 的一般偏差通过感知流形的内在维度

    构建公平的深度神经网络是实现可信的人工智能的关键步骤。深入研究影响深度神经网络公平性的因素是减轻模型偏见的基础，但目前的方法在准确预测深度神经网络偏见方面存在局限性，仅依赖于训练样本数量并缺乏更精确的测量工具。在这里，我们建立了一个几何学视角来分析深度神经网络的公平性，全面探索了深度神经网络内部如何塑造数据集的本质几何特征 - 感知流形的本质维度和维度对深度神经网络公平性的影响。基于多项发现，我们提出了内在维度正则化（IDR）的方法，通过促进学习简洁而平衡的类别感知流形，增强模型的公平性和性能。在各种图像识别基准测试中，IDR 显著减轻模型偏见并改善其性能。

    Apr, 2024

  • 数据视角下的公平性：机器学习模型认证

    本文介绍了一个基于交互和隐私保护测试的框架，该框架允许对任何经过训练的模型进行公平程度的认证，无论其训练过程和架构如何，并且提供了一种加密技术来自动进行公平测试和认证推理，同时隐藏参与者的敏感数据。

    Sep, 2020

  • 神经网络完美并行公平性认证

    该文提出了一种用于分类表格数据的前馈神经网络的因果公平性认证方法，能够准确判定机器学习模型是否有偏差，并在可扩展的精度方面提供了不同的选择。

    Dec, 2019

  • 分布式个体公平性认证

    神经网络的分布个体公平性的高效认证界限是可扩展、实用和可靠的算法公平性保证来源。

    Nov, 2023