- 神经网络海森矩阵的可证界:导数保持可达性分析
我们提出了一种针对具有可微激活函数的神经网络的新型可达性分析方法。我们的想法依赖于基于一阶泰勒展开的神经网络映射的有声抽象,并对余项进行边界约束。为此,我们提出了一种计算网络一阶导数(梯度)和二阶导数(海森矩阵)的解析上界的方法。我们的方法 - 通过神经障碍证明实现安全可达集的计算
在线安全验证自主系统的一项新技术,通过使用神经屏障证书有效地进行有界和无界时域的可达性分析,我们的方法使用由参数化神经网络给出的屏障证书,这些证书依赖于给定的初始集合,不安全集合和时间范围。
- 具有不确定节点特征和不确定图结构的图卷积网络的形式验证
该研究论文研究并解决了在安全关键环境中验证神经网络的稳健性和不确定性中的计算依赖关系问题,并使用(矩阵)多项式范围体进行可达性分析验证了其方法在三个流行基准数据集上的有效性。
- 基于物理信息的强化学习用于最大安全概率估计
通过最大安全概率的物理信息增强强化学习算法,提出了一种可以从少量样本中推断长期风险的风险量化和可达性分析方法。
- 使用高效的边界传播和并行计算扩展深度神经网络验证工具的规模
深度神经网络在安全方面的正式验证问题已经扩展到计数版本 (DNN-Verification),为了在给定安全属性的领域中计算不安全区域的数量。为了解决这个问题的复杂性,本研究提出了一种基于可达性分析、符号线性松弛和并行计算的新策略,以增强现 - 关于神经抽象的效率与精确性之间的权衡
神经抽象是复杂的非线性动力模型的形式近似,通过神经 ODE 和抽象神经网络与具体动力模型之间的误差的保证上界来表示。本文通过形式归纳合成过程生成动力学模型,并讨论复杂神经 ODE 的抽象以提高可达性分析的效率。
- 从拓扑学角度验证神经网络的安全性
本文提出了一种基于拓扑视角的集边界可达性方法,通过利用神经网络的同胚性质和开映射性质来实现对神经网络输入集合和输出集合之间边界特性的研究,从而实现安全验证问题的解决。
- 神经网络模型压缩的保证量化误差计算
本文介绍了一种神经网络压缩技术方法,建立了一个混合神经网络,由一个前馈神经网络和其量化版本组成,通过优化和可达性分析方法计算了保证的量化误差。 数值例子验证了该方法的适用性和有效性。
- KDD深度神经网络上的模型无关可达性分析
本文提出一种模型无关的验证框架 DeepAgn,通过 reachability analysis,可以解决计算给定输入的最大安全半径和生成地面实际的例子等多个已知鲁棒性问题,尤其适用于处理包括 FNN 和 RNN 在内的复杂深层神经网络的验 - BBReach: 深度强化学习系统的紧凑且可扩展的黑盒到达性分析
本文提出了一种针对 DRL 系统的紧密可扩展的可达性分析方法,使用抽象状态处理内嵌的神经网络以避免神经网络的过估计,并设计了一种名为 BBReach 的工具来评估其紧密性、可扩展性和效率。
- ICML可达性约束强化学习
本文提出了基于可达性分析的 RCRL 方法来解决 CRL 中的安全约束问题,并利用可达性分析来建立新的自洽性条件以及特征化可行集。在多个基准测试中,RCRL 方法展现了优于 CRL 和安全控制基准的可行集、策略绩效和约束满足性。
- 深度强化学习在人类环境下机器人操作的可证明安全性
本文提出了一种保护机制,利用快速到达性分析保证机械臂控制在人群环境下的安全,并且证明该方法能够有效地提高强化学习的性能。
- 神经反馈回路的可达性分析
本研究提出了一种用于神经网络控制的闭环系统的可触及性分析的凸优化框架,通过新的输入集分割技术,该框架大大减少了紧密间隔,从而显著提高了计算速度。该方法还提供了一种新的用于反向可达性分析的算法,以确保系统从某个状态达到目标状态。数值实验表明, - 在线适应的人类模型分析
本研究模拟机器人学习算法为动态系统,控制为机器人观察到的人类数据,利用可达性分析和最优控制解决机器人在线学习参数的安全问题,并在自主驾驶和室内导航等四个领域展示了其实用性。
- ReachNN: 神经网络控制系统的可达性分析
本篇研究论文提出了一种新的 reachability analysis 方法,通过 Bernstein 多项式可以验证具有广泛的激活函数形式的神经网络控制系统的安全性,同时基于 Lipschitz 连续性提供了理论误差界估计和实际采样误差界 - 验证深度神经网络的算法
本文调查了最近出现的,从可达性分析、优化和搜索中获得的洞见的方法,以确保设计的深度神经网络满足特定的输入输出属性。 我们讨论了现有算法之间的根本差异和联系。 此外,我们提供了现有方法的教学实现,并在一组基准问题上进行了比较。
- 关于在基于概率规划框架下注入可达性安全保证以应对人机交互的研究
本文提出了一种最小干预的安全控制器,通过使用到达性分析构建实时控制器,实现单车道场景中无碰撞互动的自动驾驶汽车交通合作,并验证其有效性及安全性。
- 基于 CNN 的感知系统的形式验证
本研究旨在验证卷积神经网络实现的基于神经元的感知系统,提出了基于仿射和光学变换的本地鲁棒性定义,并通过前馈神经网络的可到达性分析和 MILP 编码来展示此概念无法被以前使用的鲁棒性概念所捕获,并针对经过 MNIST 数据集训练的 CNN 进 - 神经网络控制自主系统的形式化验证
本文考虑了使用神经网络控制器的自主机器人的安全性问题。通过构建系统的一个有限状态抽象并使用标准的可达性分析方法,计算出一组安全的初始状态,使得从这些初始状态开始的机器人轨迹能够避开多面体障碍物。