关键词safety-critical applications
搜索结果 - 50
- 单目深度估计器：漏洞和攻击
本文旨在探讨当前最先进的单目深度估计神经网络对抗攻击的鲁棒性，实验结果表明微小的打扰和少于 1% 的图像损坏就会极大地影响深度估计，并提出一种新的深度特征损坏损失来增强攻击效果
- 一份针对黑盒验证物理网络安全的算法综述
本研究针对安全关键应用领域，提出了针对 CPS 系统进行模拟测试的安全验证技术。文中归纳了针对优化、路径规划、强化学习和重要性采样等技术进行的算法改进，并介绍了用于应对 CPS 软硬件状态空间巨大的问题分解技术。此外，本研究对自动驾驶汽车和 - 安全玩法：具备放弃选项的对抗性鲁棒性
本文探讨了一种适用于分类器在对抗样本上放弃输出任何类别 (即通过放弃输出任何类别来实现对抗鲁棒性) 的情况下的对抗鲁棒性问题，提出了一种新的带有放弃选项的对抗鲁棒性目标函数，并提出了一个基于该目标函数的基准，最后提出了一种 Combined - 采样免的近似方差传播用于认知不确定性估计
提供了一种比使用蒙特卡洛采样估计神经网络的认识不确定性的方法更加高效的近似方法，该方法适用于大规模视觉任务。
- ICML使用显著性图预测自动驾驶系统中的模型故障
该研究提出了一种利用显著性地图训练预测模型错误的学生模型来评估模型健壮性和估计机器学习系统故障概率的设计，并在自动驾驶车辆控制系统等安全关键应用中实现并审查了该故障预测模型的初步结果。
- 深度学习的测试改进
对神经网络的测试方法进行研究，提出了一种覆盖所有逻辑的覆盖率准则，并探讨了改进方法和需要快速、可扩展、通用的端到端测试方法的必要性。
- 使用贝叶斯优化验证控制器抵抗对抗性样本
本文提出了一种基于贝叶斯优化和逻辑约束的主动测试框架，用于测试具有复杂安全规范的机器人行为。实验结果表明，该方法能够快速发现对抗性的案例。
- 面向安全关键深度神经网络的可扩展验证
本篇论文介绍了在安全重要应用领域中使用深度神经网络的问题，针对其可靠性和安全性的担忧，提出了采用形式化验证来保证其运行符合预期，并通过两个方向，即设计可扩展性的验证技术和识别可验证的深度学习系统的设计选择来缓解这一挑战。
- 人工神经网络的最大弹性
本文探讨了将人工神经网络应用于安全关键领域中时面临的验证和认证挑战，提出基于属性的解决方案，通过混合整数优化问题的编码启发将 ANN 的最大弹性边界计算问题转化为解决 MIP 问题，并开发了多种 MIP 编码启发式方法，可极大地降低 MIP - 利用高斯过程学习不确定非线性系统的吸引区域保证
本文利用控制理论和高斯过程模型设计了一种利用实验数据学习非线性系统吸引子区域的方法，能够在保障安全的前提下主动扩展其吸引区域的估计值。