使用可证明保证的方式对深度神经网络进行可达性分析
本文提出一种模型无关的验证框架 DeepAgn,通过 reachability analysis,可以解决计算给定输入的最大安全半径和生成地面实际的例子等多个已知鲁棒性问题,尤其适用于处理包括 FNN 和 RNN 在内的复杂深层神经网络的验证。
Apr, 2023
论文探讨了多层感知器神经网络的输出可达性估计和安全验证问题,引入最大灵敏度的概念,并通过解决凸优化问题计算了一类多层感知器的最大灵敏度。然后,使用基于模拟的方法将神经网络的输出可达集估计问题转化为一系列优化问题,并基于输出可达集估计结果开发了一种自动化的安全验证方法。最后,给出了将所提出的方法应用于具有两个关节的机器人臂模型的安全验证的案例,证明了方法的有效性。
Aug, 2017
本文提出了一种基于拓扑学视角的集合边界可达性方法,通过利用神经网络的同胚性质,仅需对输入集合的边界进行可达性分析,从而实现神经网络在安全验证问题上的应用。
Oct, 2022
本文提出了一种基于拓扑视角的集边界可达性方法,通过利用神经网络的同胚性质和开映射性质来实现对神经网络输入集合和输出集合之间边界特性的研究,从而实现安全验证问题的解决。
Jun, 2023
本篇研究论文提出了一种新的 reachability analysis 方法,通过 Bernstein 多项式可以验证具有广泛的激活函数形式的神经网络控制系统的安全性,同时基于 Lipschitz 连续性提供了理论误差界估计和实际采样误差界估计方法。与之前的方法相比,这种方法可以应用于包含多种类型激活函数的异构神经网络,实验结果表明有效性。
Jun, 2019
该论文研究了深度神经网络的输出范围估计问题,提出了一种基于局部搜索和线性规划的高效算法来找到神经网络在给定输入集上的最大和最小值,这种方法在自动控制和分类中都具有良好的验证效果。
Sep, 2017
研究使用 ReLU 函数实现激活函数的前馈神经网络系统的可达性问题,并通过线性问题对其进行表征,并提出了一种基于最先进的线性规划求解器解决实际问题的方法。通过分析文献中的多个基准测试来评估所提出技术的性能。
Jun, 2017
本研究提出了一种用于神经网络控制的闭环系统的可触及性分析的凸优化框架,通过新的输入集分割技术,该框架大大减少了紧密间隔,从而显著提高了计算速度。该方法还提供了一种新的用于反向可达性分析的算法,以确保系统从某个状态达到目标状态。数值实验表明,与最先进的方法相比,该方法在更短的计算时间内具有更少的保守性,能够处理各种难以处理的系统,例如具有非线性动力学和不确定性源的系统。
Aug, 2021
本文调查了最近出现的,从可达性分析、优化和搜索中获得的洞见的方法,以确保设计的深度神经网络满足特定的输入输出属性。 我们讨论了现有算法之间的根本差异和联系。 此外,我们提供了现有方法的教学实现,并在一组基准问题上进行了比较。
Mar, 2019
该论文探讨了一类由 ReLU 激活函数构成的神经网络的输出可达集计算和安全验证问题,并提出了一种逐层计算输出可达集的方法,通过计算输出可达集的结果,可以通过检查不安全区域与由一组多面体描述的输出可达集的交集来执行简单有效的安全验证。
Dec, 2017