MMMar, 2020

三维物体检测神经网络系统的安全加固

PDF
TL;DR研究如何通过安全规范、特定的损失函数以及安全感知的非极大值约束算法，使得神经网络在单阶段处理 3D 目标检测时更加具有可靠性与安全性，通过对当前最先进的 PIXOR 检测器的扩展说明了这一概念。
neural networks3d object detectionsafety awarenessrobustnesspixor detector
发现论文，激发创造
  • 自动驾驶中行人检测的安全适应损失

    本文提出了一种新颖的安全感知损失变化，利用训练过程中估计的每个行人的关键得分来提高关键行人检测性能，评估结果表明，使用我们的安全感知损失函数对关键行人进行训练可以减少漏检而不损害对非关键行人的检测性能。

    Feb, 2024

  • DeepSafe: 基于数据驱动的神经网络对抗鲁棒性检测方法

    本文提出了一种利用聚类方法自动识别神经网络输入空间安全区域的方法，并借助验证技术来确认这些区域是否安全或提供不安全的反例，并引入了目标鲁棒性的概念，以确保神经网络不会将任何输入映射到目标标签，利用 MNIST 数据集以及控制下一代无人机避撞系统的神经网络实施的空中碰撞预防系统（ACAS Xu）进行验证。

    Oct, 2017

  • 深度神经网络特征引导的黑箱安全测试

    本研究提出一种基于特征导引的黑盒攻击方法，可以应用于深度神经网络的安全测试，无需深入的网络知识，在人类视觉系统指导下对像素分布进行检测，并利用蒙特卡罗树搜索逐步探索游戏状态空间以寻找对抗性样本，当前方法在安全关键应用如自动驾驶车辆中的交通标志识别中具有广泛的应用前景。

    Oct, 2017

  • 深度神经网络的安全验证

    本研究提出一种基于 Satisfiability Modulo Theory (SMT) 的新型自动化验证框架，旨在保证深度神经网络对于图像操作的安全性，能够发现对于给定操作范围和家族，对抗性样本是否存在，同时比较现有的相关技术。

    Oct, 2016

  • 利用深度神经网络的关键系统安全框架

    本文提出了一个基于贝叶斯分析的安全性论据框架，该框架使用运行数据和最新的深度学习验证技术，支持多种形式的预测，并针对实际的关键系统进行了建模和验证。

    Mar, 2020

  • 自动驾驶系统中基于原始激活模式和空间过滤的 3D 目标检测完整性监控

    这篇论文介绍了一种新颖的方法，通过集成底层深度神经网络的原始激活模式与空间滤波技术，以增强基于 DNN 的 3D 物体检测的运行时自省能力，从而在自主驾驶系统中提高感知自省的安全性和效果。

    May, 2024

  • 神经网络的有效形式安全分析

    本文提出了一种有效的方法来严格检查神经网络的不同安全属性，可以检查不同的安全属性并找到具体的反例，比现有方法的性能提高了数个数量级，这种方法也有助于提高神经网络的可解释性并指导训练更加稳健的神经网络。

    Sep, 2018

  • 基于固有安全设计和运行时错误检测的安全关键应用深度学习认证框架

    基于深度学习的认证在安全关键应用中是一个非常重要的问题，本文通过研究使用于航空等安全关键领域的实际问题，调查机器学习研究社区中针对深度学习系统鲁棒性和可靠性验证的方法学，并提出了一个新的基于安全设计和运行时错误检测的深度学习认证框架。

    Mar, 2024

  • PixMix：梦幻般的图片全面提高安全措施

    机器学习领域的研究论文，介绍了一项新的数据增强策略，通过利用图片的自然结构复杂性如分形等，改善了机器学习系统的稳定性和性能表现，提高了安全措施并在多个方面取得了极为优秀的结果。

    Dec, 2021

  • 用于安全关键应用的神经网络：挑战、实验与展望

    通过扩展现有认证标准中必不可少的可理解性、正确性和有效性等概念，我们提出了一种设计可靠人工神经网络（ANN）的方法论，并将其应用于一个具体的案例研究中，设计了一个高速公路 ANN 基础运动预测器，以确保安全特性，例如如果其右侧有其他车辆，则无法建议自车向右车道移动。

    Sep, 2017