Feb, 2021

面向网络化物理系统的弹性机器学习：机器学习安全性调研，以保护 CPS 的机器学习

PDF
TL;DR本文综述了在建立机器学习 (Machine Learning) 算法时如何考虑建立安全的弹性型的 Cyber Physical Systems (CPS) 框架，为探测和应对 CPS 的威胁提供新方向。
cyber physical systemsresilient cpsadversarial mlmachine learningsecurity
发现论文，激发创造
  • 网络物理系统的绿色弹性

    提出一种基于博弈论的解决方案，通过在协作人工智能系统中使用机器人与人类来实现系统的可恢复性，并以最小化 CO2 足迹的方式发挥协作人工智能系统预期结果的作用。

    Nov, 2023

  • 网络物理系统安全 -- 综述

    在本文中，我们基于一个统一的框架对 CPS 安全的研究进行了系统化的概述，框架包含三个正交的坐标系，分别为从安全角度、CPS 组件角度、CPS 系统角度，旨在构建一个足够抽象的模型来适用于各种异构的 CPS 应用，并且为 CPS 组件的紧密耦合提供了模块化的视图。

    Jan, 2017

  • 数据驱动和知识驱动的物理网络系统异常检测的鲁棒性测试

    本文旨在评估基于机器学习方法的异常检测算法对于两种意外和恶意干扰的鲁棒性，在结合领域知识的前提下实验结果表明，基于领域知识训练的机器学习算法能够有效地降低鲁棒性误差并提高透明度。

    Apr, 2022

  • 使用大型语言模型进行测试学习能力的网络物理系统：一种形式化方法

    通过检查以测试为基础的验证和验证作为最实用的方法，并总结当前先进的方法学，在确保学习能力的 CPS 的形式安全方面，确定了当前测试方法的局限性，并提出了从基础概率测试过渡到更严格方法的路线图，以提供正式保证。

    Nov, 2023

  • 深度学习模型在网络物理系统中的鲁棒性和泛化性能比较研究

    本研究评估了深度学习模型在多变量时间序列数据方面的稳健性和泛化性能，发现某些 DL 模型体系结构和训练技术在处理各种干扰和超出分布样本时表现更为出色，这为开发在实际 CPS 应用中能够提供可靠且鲁棒性能的 DL 模型带来了重要的启示。

    Jun, 2023

  • 电力系统中的机器学习是否存在漏洞？

    本文探讨了机器学习在电力系统中的安全性问题，并指出目前大多数算法容易受到对抗性输入数据的攻击，因此需要设计更加健壮和安全的算法。

    Aug, 2018

  • 物联网弹性路线图：面向网络物理系统的设计

    本文总结了现有关于异常检测、容错性和自我修复的最新工作，以及其他适用于实现 IoT 的恢复力的方法，特别关注确保网络数据完整性的非侵入式方法。此外，本文介绍了在建立一个有弹性的 IoT 中所面临的主要挑战，并总结了我们正在进行的解决方案和未来工作，以实现 “值得信赖的 IoT”。最后，该框架在一个智能传感器基础设施的案例中进行了说明：运输领域的智能传感器基础设施。

    Oct, 2018

  • 通过敌对回归检测网络物理系统中的攻击

    本文研究了在因传感器攻击导致的物理损害巨大的情况下，监测传感器攻击的重要性，利用有监督回归来检测异常传感器读数，并通过史塔克伯格博弈来选择最优的检测阈值，提高系统韧性而不增加误报率。

    Apr, 2018

  • 通过动作空间对抗训练强化学习智能体的鲁棒性提升

    研究了机器学习在具备恶意状态 / 执行机构攻击下的表现，介绍了深度强化学习在决策和控制任务中存在漏洞的问题，提出了通过对抗训练来提高深度强化学习代理的抗干扰性以实现系统的稳定性和鲁棒性。

    Jul, 2020

  • 针对学习型医疗智能物理系统开展安全保障案例的探索

    本文提供了一个机器学习（ML）控制器在学习式医疗物理系统（MCPS）中的安全保障方案，特别是在建立对基于 ML 的预测的信心方面，以胰岛素泵系统（APS）为代表的具体应用为例，通过实现深度神经网络用于 APS 预测，检查 ML 数据的充分性并使用形式化验证分析 ML 预测的正确性，最后概述此方案基于经验开放的研究问题。

    Nov, 2022