Jan, 2022

ACAS Xu 早期原型的神经网络压缩存在安全隐患：通过量化状态反向可达性进行闭环验证

PDF
TL;DR本文提出了一种使用状态量化和反向可达性验证无人机收发器 ACAS Xu 系统闭环逼近的技术，以验证系统的安全性，并发现了该系统在真实情况下存在碰撞的情况。
发现论文，激发创造
  • 用于机载避撞系统的深度神经网络压缩

    采用深度神经网络及对称损失函数在仿真研究中，实现减少空间复杂度以及提高决策系统的安全性和效率。

    Oct, 2018

  • 通过安全区域的线性逼近验证飞机防撞神经网络

    该研究将飞机避碰系统问题定义为马尔科夫决策过程，并使用动态规划进行警告逻辑的优化，使用神经网络压缩以便在有限的硬件上运行，通过神经网络验证工具进行安全性检查的结果发现成千上万个不安全的反例。

    Mar, 2019

  • 神经网络控制自主系统的形式化验证

    本文考虑了使用神经网络控制器的自主机器人的安全性问题。通过构建系统的一个有限状态抽象并使用标准的可达性分析方法，计算出一组安全的初始状态，使得从这些初始状态开始的机器人轨迹能够避开多面体障碍物。

    Oct, 2018

  • 利用保证神经网络模型简化进行神经网络控制系统的安全验证

    本文提出了一种神经网络模型减缩的方法，通过精确计算模型减缩精度，将减缩后的神经网络控制器替换成封闭回路系统，进而提高安全验证的计算效率，并通过自适应巡航控制系统的案例验证了方法的有效性。

    Jan, 2023

  • 深度强化学习避碰系统的奖励函数优化

    该研究探讨使用代理优化器来调整深度强化学习算法，以优化多种航空器平台，包括无人机的碰撞回避能力，从而提高安全性和操作可行性。

    Dec, 2022

  • 多智能体系统学习策略的碰撞避免验证

    通过后向可达性方法验证多智能体神经反馈循环（MA-NFL）的碰撞避免属性，并展示该方法在 10 个智能体系统上的计算可扩展性。

    Mar, 2024

  • 神经反馈回路的可达性分析

    本研究提出了一种用于神经网络控制的闭环系统的可触及性分析的凸优化框架，通过新的输入集分割技术，该框架大大减少了紧密间隔，从而显著提高了计算速度。该方法还提供了一种新的用于反向可达性分析的算法，以确保系统从某个状态达到目标状态。数值实验表明，与最先进的方法相比，该方法在更短的计算时间内具有更少的保守性，能够处理各种难以处理的系统，例如具有非线性动力学和不确定性源的系统。

    Aug, 2021

  • 基于图像的神经网络控制系统的可扩展代理验证：组合和展开方法

    通过使用条件生成对抗网络和系统动力学，我们提出了一种针对神经网络控制系统安全验证的方法，减少了单步误差和多步误差，并通过计算准确的可达集来实现较好的可扩展性。

    May, 2024

  • 通过半定规划实现具有神经网络控制器的闭环系统的可达性分析

    本文提出使用新颖的前向可达性分析方法以验证具有神经网络的时间变化系统的安全性，并举例证明其在四旋翼控制系统中的实用性。

    Apr, 2020

  • 通过神经障碍证明实现安全可达集的计算

    在线安全验证自主系统的一项新技术，通过使用神经屏障证书有效地进行有界和无界时域的可达性分析，我们的方法使用由参数化神经网络给出的屏障证书，这些证书依赖于给定的初始集合，不安全集合和时间范围。

    Apr, 2024