May, 2023

基于行为模仿的深度神经网络修复

PDF
TL;DR该论文提出了一种修复缺陷深度神经网络的框架，BIRDNN，它结合了重新训练和微调的方法，通过模拟期望行为和分析错误行为的关键神经元来修复错误的预测，并且具有更高的效率和兼容性。
deep neural networksdnn repair/patchbirdnnbehavior-imitationdomain-wise repair problems
发现论文，激发创造
  • 深度神经网络的可证明修复

    本文提出了可证明修复问题，即在发现不安全行为后修复神经网络 (DNN) 的问题，并介绍了可用于有限点和凸多面体等安全规范的 Provable Point 和 Provable Polytope 修复算法，以及 Decoupled DNN 结构，它允许将可证明修复减少至线性规划问题。实验结果证明了我们的算法在各种具有挑战性的任务中的有效性和效率。

    Apr, 2021

  • ADVREPAIR: 对抗性攻击的可证明修复

    利用形式验证构建补丁模块，提供对有限数据的合适修复，该修复可以证明且具有一般化能力。

    Apr, 2024

  • 基于语义的神经网络修复

    本文提出了一种通过基于深度学习层的可执行语义来自动修复神经网络错误的方法，该方法专注于四种实践中常见的错误类型，并通过实验验证了该方法的有效性和高效性。

    Jun, 2023

  • 因果关系基础下神经网络修复

    提出了一种基于因果推理的神经网络修复技术 CARE，该技术可以有效地修复神经网络，使其满足公平性、安全性等性质，平均提高了 61.91% 的公平性，并将攻击成功率从 98% 以上降至 1% 以下。

    Apr, 2022

  • 深度神经网络架构保全的可证修复

    本文提出了一种基于 V-polytope 的可证明修复方法，该方法可以在不修改架构的情况下修改深度神经网络（DNN）的参数，支持多层修复，运行时间复杂度为多项式级别。使用 MNIST，ImageNet 和 ACAS Xu DNNs 测试显示该方法比以前的 PRDNN 和 REASSURE 方法在效率、可扩展性和泛化性方面更好。

    Apr, 2023

  • 测试前向神经网络训练程序

    该论文提出了一种名为 TheDeepChecker 的端到端基于属性的调试方法，以检测深度神经网络训练程序中的编码错误和系统失配，并表明其在检测准确性和深度学习故障覆盖面方面优于 Amazon SageMaker Debugger（SMD）的离线规则验证。

    Apr, 2022

  • 神经网络的自动修复

    提出了一种通过使用 SMT 求解器修复有关安全规范的不安全神经网络，以防止对抗攻击，并且通过修改少量的权重值来寻找新的安全神经网络表示，从而最大限度地保持决策边界相似性，同时保证只有轻微的准确度损失，证明了该方法的实用性。

    Jul, 2022

  • 可编辑神经网络

    该研究探讨了神经网络的编辑问题，提出了 Editable Training，这是一种模型无关的训练技术，以便快速修补模型的错误，并在大规模图像分类和机器翻译任务中进行了实证研究。

    Apr, 2020

  • 零开销的故障感知设计和训练以提高 DNN 的可靠性

    本文提出一种针对深度神经网络在训练和模型设计时提高其可靠性的解决方案，旨在解决硬件故障导致对模型预测出现错误等问题。在研究中通过 DNN 重新设计、重新训练等方式，提出三种零附加成本的解决方案，可以在一定程度上提高 DNNs 对于瞬态故障的可靠性，并通过广泛的消融研究量化了每种硬化组件的性能提升。

    May, 2022

  • 深度神经网络用于选择分析：通过梯度规范化增强行为规律性

    该研究提出了强行为规律和弱行为规律作为评估个体需求函数单调性的新指标，并设计了带有六个梯度正则化器的约束优化框架，以提高深度神经网络的行为规律性。研究结果表明，相比于具有较强行为基础的模型如多项逻辑回归，传统深度神经网络无法保证行为规律性，然而梯度正则化器能显著提高深度神经网络的行为规律性。此外，梯度正则化对在跨领域的泛化中更加有效，能够显著改善性能较差的深度神经网络行为规律性，从而提高模型的传递性和预测应用。未来的研究可以将行为规律性与对数似然一起作为评估交通需求模型的指标，并探索其他方法来进一步提高复杂机器学习模型的行为规律性。

    Apr, 2024