因果关系基础下神经网络修复
本文提出了可证明修复问题,即在发现不安全行为后修复神经网络 (DNN) 的问题,并介绍了可用于有限点和凸多面体等安全规范的 Provable Point 和 Provable Polytope 修复算法,以及 Decoupled DNN 结构,它允许将可证明修复减少至线性规划问题。实验结果证明了我们的算法在各种具有挑战性的任务中的有效性和效率。
Apr, 2021
提出了一种通过使用 SMT 求解器修复有关安全规范的不安全神经网络,以防止对抗攻击,并且通过修改少量的权重值来寻找新的安全神经网络表示,从而最大限度地保持决策边界相似性,同时保证只有轻微的准确度损失,证明了该方法的实用性。
Jul, 2022
通过采用两个神经网络,其中一个反映了因果图的结构,另一个反映了干预图的结构,该研究提出了一种改进数据集的重新加权方法,以实现因果公平性,并在实验中证明了其有效性。
Nov, 2023
QNNRepair 是一种用于修复量化神经网络的方法,通过软件故障定位方法识别神经元并将修复问题转化为线性规划问题,以纠正 QNN 在失败测试中的表现,并在不损害其通过测试中的表现的情况下,解决神经元权重参数的问题。实验证明,与现有方法相比,QNNRepair 可在大多数情况下有效提高量化模型的性能,特别适用于 ImageNet 数据集。
Jun, 2023
AIREPAIR 是一个神经网络修复平台,通过将现有的网络修复工具进行整合,在同一模型上运行不同的修复算法,从而实现不同的修复技术之间的公平比较。我们在流行的深度学习数据集和模型上使用三种最先进的修复工具来测试 AIREPAIR 的效用性,并通过比较和分析不同修复技术的结果进行评估。
Nov, 2022
该论文提出了一种修复缺陷深度神经网络的框架,BIRDNN,它结合了重新训练和微调的方法,通过模拟期望行为和分析错误行为的关键神经元来修复错误的预测,并且具有更高的效率和兼容性。
May, 2023
本文介绍了一种名为因果程序修复(CPR)的可解释性方法,该方法基于序列到序列模型和因果推断,可以在自动程序修复的过程中生成决策解释的相关组成部分、通过数据增广来推断这些关系、生成响应的令牌图,并解决划分问题。实验表明,CPR 可以生成合理的解释因果图,并提高自动程序修复的错误修正性能。
May, 2022