Nov, 2023

知安全：基于知识和数据的人工胰腺系统危害缓解

PDF
TL;DR该研究提出了一种结合知识和数据驱动的方法，名为 KnowSafe，用于设计安全引擎，可以预测和减轻针对控制系统的安全危害，它整合了领域特定的安全约束和上下文特定的缓解措施，并结合机器学习技术来估计系统轨迹、推断潜在危害，并生成最优的纠正措施，以保持系统的安全运行。实验结果表明，KnowSafe 在预测系统状态轨迹和潜在危害方面比现有技术具有更高的准确性，低的误报率和无误报，同时在模拟的人工胰腺系统和真实世界的临床试验数据集中保持安全操作，成功减轻危害的概率为 92.8%，至少比仅基于规则的方法（50.9%）和数据驱动方法（52.7%）高出 76%。
发现论文，激发创造
  • 针对学习型医疗智能物理系统开展安全保障案例的探索

    本文提供了一个机器学习（ML）控制器在学习式医疗物理系统（MCPS）中的安全保障方案，特别是在建立对基于 ML 的预测的信心方面，以胰岛素泵系统（APS）为代表的具体应用为例，通过实现深度神经网络用于 APS 预测，检查 ML 数据的充分性并使用形式化验证分析 ML 预测的正确性，最后概述此方案基于经验开放的研究问题。

    Nov, 2022

  • 数据驱动和知识驱动的物理网络系统异常检测的鲁棒性测试

    本文旨在评估基于机器学习方法的异常检测算法对于两种意外和恶意干扰的鲁棒性，在结合领域知识的前提下实验结果表明，基于领域知识训练的机器学习算法能够有效地降低鲁棒性误差并提高透明度。

    Apr, 2022

  • 使用大型语言模型进行测试学习能力的网络物理系统：一种形式化方法

    通过检查以测试为基础的验证和验证作为最实用的方法，并总结当前先进的方法学，在确保学习能力的 CPS 的形式安全方面，确定了当前测试方法的局限性，并提出了从基础概率测试过渡到更严格方法的路线图，以提供正式保证。

    Nov, 2023

  • 学习增强的网络物理系统中的实时异常检测

    本论文研究了如何在物理控制系统中高效检测数据分布的异常点，提出了利用归纳式一致性预测和异常检测方法进行检测的方案，并通过仿真实验在自动驾驶和紧急制动系统中得到了良好的实验结果。

    Jan, 2020

  • 知识蒸馏增强的数字孪生在异常检测中的应用

    提出了一种名为 KDDT 的新方法用于列车控制和管理系统 (TCMS) 的异常检测，该方法利用语言模型 (LM) 和长短期记忆 (LSTM) 网络来提取背景和时间特征，在实证研究中，KDDT 表现出了卓越的性能。

    Sep, 2023

  • 一份针对黑盒验证物理网络安全的算法综述

    本研究针对安全关键应用领域，提出了针对 CPS 系统进行模拟测试的安全验证技术。文中归纳了针对优化、路径规划、强化学习和重要性采样等技术进行的算法改进，并介绍了用于应对 CPS 软硬件状态空间巨大的问题分解技术。此外，本研究对自动驾驶汽车和飞行器防撞系统等领域的安全验证工具进行了总结。

    May, 2020

  • 利用深度神经网络的关键系统安全框架

    本文提出了一个基于贝叶斯分析的安全性论据框架，该框架使用运行数据和最新的深度学习验证技术，支持多种形式的预测，并针对实际的关键系统进行了建模和验证。

    Mar, 2020

  • 通过集成深度强化学习的混合控制策略应用于人工胰腺

    本文提出了一种 HyCPAP 的混合控制策略，将 MPC 和集成 DRL 策略相结合，利用两种策略的优势并补偿各自的限制，并进一步将元学习技术纳入 HyCPAP 中，以实现对 T1DM 患者的快速个性化适应。结果表明，我们的方法在闭环葡萄糖管理方面表现优越。

    Jul, 2023

  • 利用统计法和物理引导的过程模型检测网络物理系统中的未知未知因素

    提出了一种新颖的框架，用于分析安全关键的网络物理系统的操作输出特征的随机一致性，并可以发现未知的操作场景和评估潜在的安全隐患。

    Sep, 2023

  • 系统安全和人工智能

    本章提出了七个防止人工智能系统造成伤害的课程，探讨了系统安全领域的见解，针对公共机构及基础设施中的新应用程序引发的新危害，阐述了诊断和消除新人工智能系统危害的共识缺失，并探讨了有效人工智能管理所需的跨学科方法和共享语言。

    Feb, 2022