safety-critical systems | BriefGPT

关键词safety-critical systems

搜索结果 - 28

gRoMA：测量深度神经网络全局鲁棒性的工具
该论文介绍了一种名为 gRoMA 的新型可扩展工具，运用统计方法来形式化衡量 DNN 的全局分类稳健性 —— 即特定输出类别遇到对抗性输入的随机概率，并测试了其在 CIFAR10 数据集上的可扩展性和应用潜力，结果发现在不同输出类别上 DN
PDF2 years ago
从需求到自主机器人：ROS2 监测
本文提供一种正式方法来从结构化自然语言中的要求生成自主机器人的运行时监控器，以对安全关键系统进行运行时验证，从而保证相关任务的安全性。
PDF2 years ago
通过 Unitary-Gradient 神经网络实现鲁棒性设计的分类
该论文提出了一种基于网络架构的新型分类器 —— 签名距离分类器 (SDCs)，该分类器可在单次推理成本下直接输出输入 x 与分类边界的距离，从而在安全关键系统中实现在线可靠分类。
PDF2 years ago
利用通讯技术实现人工智能安全算法的全面研究
本研究旨在提供一份综合性的人工智能安全解决方案的最新技术发展情况，研究结果表明，人工智能在汽车工业的应用最为广泛，并且将继续增加对蜂窝通信技术的需求以提高系统的响应速度和可靠性。
PDF2 years ago
可证明鲁棒性的无需付出昂贵代价的异常检测
研究使用机器学习技术的安全关键系统需要可靠的不确定性评估。本研究发现，深度神经网络在处理分布外数据时可能会产生过度自信的预测。本研究提出了一种具有保护分布外数据和高准确度的分类器，并提供所有实验代码。
PDF3 years ago
从操作测试中评估安全关键系统：自动驾驶汽车研究
使用保守贝叶斯推断方法，探讨从技术层面如何评估自动驾驶系统，维护其高可靠性和安全性。
PDF4 years ago
基于贝叶斯学习的适应性安全关键系统控制
提出了一种满足安全性和实时性约束，利用贝叶斯模型学习和随机 CLFs、CBFs 控制框架的深度神经网络模型不确定性学习的方法，并在高速行进的火星车任务中进行了演示。
PDF5 years ago
利用视觉先见力检测神经网络策略的对抗攻击
本文提出了一种使用基于行为条件帧预测模块的防御机制，以防止深层强化学习代理遭受到对抗攻击，该方法可以检测到对抗性示例的存在，并允许代理在受到攻击时继续执行任务，在 Atari 2600 游戏中实验结果表明，该方法能够有效检测对抗性示例并在受
PDF7 years ago