May, 2020

一份针对黑盒验证物理网络安全的算法综述

PDF
TL;DR本研究针对安全关键应用领域，提出了针对 CPS 系统进行模拟测试的安全验证技术。文中归纳了针对优化、路径规划、强化学习和重要性采样等技术进行的算法改进，并介绍了用于应对 CPS 软硬件状态空间巨大的问题分解技术。此外，本研究对自动驾驶汽车和飞行器防撞系统等领域的安全验证工具进行了总结。
autonomous cyber-physical systemssafety validationsimulation-based techniquesartificial intelligencesafety-critical applications
发现论文，激发创造
  • 黑盒系统的贝叶斯安全验证

    本文提出了一种基于贝叶斯优化的安全验证算法，它通过迭代地适配概率代理模型来高效预测故障，并通过重要性采样来估计操作域内的故障概率。经实验表明，该算法在减少样本数和各种安全验证指标方面表现良好，并可用于补充机器学习组件的 FAA 认证过程。

    May, 2023

  • 使用大型语言模型进行测试学习能力的网络物理系统：一种形式化方法

    通过检查以测试为基础的验证和验证作为最实用的方法，并总结当前先进的方法学，在确保学习能力的 CPS 的形式安全方面，确定了当前测试方法的局限性，并提出了从基础概率测试过渡到更严格方法的路线图，以提供正式保证。

    Nov, 2023

  • 使用深度强化学习技术伪造网络物理系统

    本文介绍了采用 DRL 技术来缩短模拟验证在 CPS 中缺陷检测和 falsification 过程中所需的时间的方法，并给出了初步的评估结果。

    May, 2018

  • 来见证：关于网络物理系统安全保障的一些观点

    通过探讨与保障支持因为设计而参数要求（例如安全性、安全性和可靠性）的合规性的确证缺陷检测、模式依赖以改善确证方案结构、改进现有确证方案符号以及（半）自动化确证方案生成等方面的挑战，提出了一些可能的解决方向。

    Jan, 2024

  • 数据驱动和知识驱动的物理网络系统异常检测的鲁棒性测试

    本文旨在评估基于机器学习方法的异常检测算法对于两种意外和恶意干扰的鲁棒性，在结合领域知识的前提下实验结果表明，基于领域知识训练的机器学习算法能够有效地降低鲁棒性误差并提高透明度。

    Apr, 2022

  • 基于扩散的故障采样技术对于网络物理系统

    在高维领域中验证安全关键的自主系统（如机器人）是一个重大挑战。我们提出使用条件降噪扩散模型对故障分布进行采样，并经验证在高维机器人验证任务中相比现有的黑盒技术，能够提高采样效率和模态覆盖。

    Jun, 2024

  • 基于物理的攻击在网络物理系统中的形式化方法（扩展版）

    运用形式化方法对 Cyber-Physical Systems 中受物理攻击的传感器和执行器进行完整性和拒绝服务攻击的形式化处理，提出了威胁模型，度量攻击成功率，使用 Uppaal SMC 作为静态安全性分析工具进行实例分析。

    Feb, 2019

  • 从操作测试中评估安全关键系统：自动驾驶汽车研究

    使用保守贝叶斯推断方法，探讨从技术层面如何评估自动驾驶系统，维护其高可靠性和安全性。

    Aug, 2020

  • SAVME: 使用元学习实现自主系统的高效安全验证

    我们提出了一种贝叶斯方法，将元学习策略与多臂老虎机框架相结合，以加速自动系统的故障检测、减少模拟运行时间，并通过学习参数和准确模拟的分布来评估新场景中的学习速度。通过在先进的 3D 驾驶模拟器中应用 16 个保真设置来展示我们的方法，以评估基于自动化车辆事故前个体的各种场景，结果表明与仅依赖于高保真模拟器的传统方法相比，我们的方法加快了模拟速度，最多高出 18 倍。

    Sep, 2023

  • 自动驾驶车辆安全的高效黑盒评估

    研究实施了一种模拟测试框架来评估自动驾驶汽车系统的性能，并采用自适应重要性抽样方法加速稀有事件概率评估，评估了 Comma AI 的 OpenPilot，对自主车辆技术的测试和验证提出了新的方法。

    Dec, 2019