May, 2022

验证学习为基础的安全关键航空系统的认证框架

PDF
TL;DR本文提出了一种针对航空系统中基于学习的组件进行设计时间和运行时保证的安全验证框架，该框架整合了两种新方法：同时考虑了离线和在线验证机制，并且允许各个模块使用独立的方法和技术进行开发，以满足系统不同阶段的安全性要求，从而实现系统产品的持续学习和评估。
safety verificationlearning-based componentsaviation systemsoffline mixed-fidelity verificationonline monitoring
发现论文，激发创造
  • 面向不确定机器人系统的基于学习的控制一般安全框架

    这篇研究论文就如何在机器人系统的学习过程中保证安全性提出了一种新的框架，综合运用了学习控制方法、Hamilton-Jacobi 可达性方法和贝叶斯机制，通过概率和最坏情况分析提供了理论安全保障，并在四旋翼飞行器上实验室验证了其有效性。

    May, 2017

  • 基于固有安全设计和运行时错误检测的安全关键应用深度学习认证框架

    基于深度学习的认证在安全关键应用中是一个非常重要的问题，本文通过研究使用于航空等安全关键领域的实际问题，调查机器学习研究社区中针对深度学习系统鲁棒性和可靠性验证的方法学，并提出了一个新的基于安全设计和运行时错误检测的深度学习认证框架。

    Mar, 2024

  • 机器学习系统认证的形式和实践要素

    该论文将机器学习应用于自主飞行中的视觉着陆，并建立了一个模型无关且工具独立的认证框架，以解决机器学习模型的可信度与航空认证之间的挑战。

    Oct, 2023

  • 基于模拟的自动驾驶辅助系统安全验证，包含学习能力组件

    自动驾驶和驾驶辅助系统领域的安全保障、测试验证和验证安全关键应用的方法仍然是主要挑战之一，本文介绍了基于仿真的开发平台，用于验证和验证连续工程循环中的安全关键学习型系统。

    Sep, 2023

  • SAVME: 使用元学习实现自主系统的高效安全验证

    我们提出了一种贝叶斯方法，将元学习策略与多臂老虎机框架相结合，以加速自动系统的故障检测、减少模拟运行时间，并通过学习参数和准确模拟的分布来评估新场景中的学习速度。通过在先进的 3D 驾驶模拟器中应用 16 个保真设置来展示我们的方法，以评估基于自动化车辆事故前个体的各种场景，结果表明与仅依赖于高保真模拟器的传统方法相比，我们的方法加快了模拟速度，最多高出 18 倍。

    Sep, 2023

  • 动态和控制模型的通用验证框架与证书合成

    我们提供了一个对系统规范进行编码和定义相关证明的通用框架，并提出了一种自动化的方法来形式合成控制器和证明，通过利用神经网络的灵活性提供候选控制和证明函数，同时使用 SMT 求解器提供正确性的正式保证，我们通过开发一个原型软件工具对我们的框架进行测试，并评估其在通过对广泛的基准测试进行控制和证明合成时的有效性。

    Sep, 2023

  • 学习能力安全关键系统的可证明保证究竟是什么

    机器学习在安全关键领域的使用依然存在挑战，论文讨论了这些挑战，提出了一种基于两步验证方法的可证明统计保证实现的方式。

    Jul, 2023

  • 基于数据的安全证书的可伸缩合成及其在基于学习的控制中的应用

    本文提出了有效的技术来综合安全集合和控制律，通过基于凸优化问题的近似来提供改进的可伸缩性质，其中一种方法仅需要近似的线性系统模型和 Lipschitz 连续的未知非线性动力学，展示了数字示例，包括一个自主车队。

    Nov, 2017

  • 基于组件的建模与仿真检验框架：集成各组件

    本文提出了一个综合的验证框架来应对组合性验证中的一些重要问题，并提出了一个验证过程来验证不同类型的系统模型，如反应式、实时和概率系统的组合性。该框架提供了验证组合性所需的方法、技术和工具支持。为了验证动态 - 语义组合性，我们探讨了三种不同的方法，即基于 Petri 网的代数分析、基于有色 Petri 网的状态空间分析和基于通信顺序处理的模型检查。

    Jan, 2023

  • 初始化未知模型和不可行安全证书下的安全在线动态学习

    通常，学习和控制过程中利用约束安全证书的技术被用于保证安全性，但是过高的模型不确定性可能使得鲁棒安全认证方法变得不可行。本文考虑了基于控制屏障函数（CBF）二阶锥规划的具有鲁棒安全证书的学习环境，在该环境下，如果控制屏障函数证书是可行的，我们的方法将利用它来保证安全性。否则，我们的方法通过探索系统动力学来收集数据，恢复控制屏障函数约束的可行性。我们采用了一种受贝叶斯优化中成熟工具启发的方法。我们证明，如果采样频率足够高，我们可以恢复鲁棒 CBF 证书的可行性，从而保证安全性。我们的方法不需要先验模型，据我们所知，这是第一个在存在偶尔不可行安全证书的情况下无需备份非学习型控制器即可保证安全的算法。

    Nov, 2023