Sep, 2022

通过 Unitary-Gradient 神经网络实现鲁棒性设计的分类

PDF
TL;DR该论文提出了一种基于网络架构的新型分类器 —— 签名距离分类器 (SDCs)，该分类器可在单次推理成本下直接输出输入 x 与分类边界的距离，从而在安全关键系统中实现在线可靠分类。
neural networkssafety-critical systemsadversarial attacksclassifiersunitary-gradient neural network
发现论文，激发创造
  • 利用二次约束和半定规划进行神经网络的安全验证和鲁棒性分析

    通过半定规划的框架来解决对于神经网络在输入不确定性和对抗攻击下的安全性和强鲁棒性认证的问题，通过抽象出激活函数的各种性质，分析其安全性质，解决了保守性和计算效率的平衡问题，并且可以应用于安全认证以外的问题。

    Mar, 2019

  • 深度神经网络的安全验证

    本研究提出一种基于 Satisfiability Modulo Theory (SMT) 的新型自动化验证框架，旨在保证深度神经网络对于图像操作的安全性，能够发现对于给定操作范围和家族，对抗性样本是否存在，同时比较现有的相关技术。

    Oct, 2016

  • 预防在点估计判别神经网络中对远离数据的任意高自信度

    通过在神经网络输出中添加额外类别的逻辑回归值，我们解决了过度自信并提高对边界测试数据的性能表现。

    Nov, 2023

  • 通过距离感知的确定性深度学习方法进行简单和有原则的不确定性评估

    SNGP 基于权重规范化和高斯过程，解决了深度神经网络中单模型在预测、校准和域外检测上的不确定性问题。

    Jun, 2020

  • 距离感知简单方法改进单模型深度不确定性

    研究了如何改进深度神经网络的不确定性量化能力，基于确定性表示将不确定性量化形式化为极小化 - 极大化学习问题，提出了一种名为 SNGP 的方法，通过两个简单的改变来提高现代 DNN 的距离感知能力，取得了较好的预测、校准和超领域检测性能。

    May, 2022

  • DeepSafe: 基于数据驱动的神经网络对抗鲁棒性检测方法

    本文提出了一种利用聚类方法自动识别神经网络输入空间安全区域的方法，并借助验证技术来确认这些区域是否安全或提供不安全的反例，并引入了目标鲁棒性的概念，以确保神经网络不会将任何输入映射到目标标签，利用 MNIST 数据集以及控制下一代无人机避撞系统的神经网络实施的空中碰撞预防系统（ACAS Xu）进行验证。

    Oct, 2017

  • 基于距离的神经网络分类器置信度

    本文提出了一种基于神经网络中数据嵌入的简单可扩展的可靠置信度评分方法，通过距离损失或对抗训练对得到的嵌入进行处理，比传统置信度评分在分类错误预测、加权分类器集成以及新颖性检测中表现更加优异。

    Sep, 2017

  • 深度神经网络的决策边界研究：实证研究

    深度学习神经网络中决策边界的演变及其对抗训练的影响等领域的问题研究。

    Feb, 2020

  • 通过不确定性驱动的扰动提高泛化能力

    本文讨论了梯度下降算法中的简单性偏差问题，并提出一种基于不确定性驱动的扰动方式来减小这种偏差。我们发现该方法能够提高模型的边际及泛化性能，同时在多个数据集上表现出有竞争力的鲁棒性和泛化性的平衡。

    Feb, 2022

  • 分类器对于通用扰动的稳健性：几何视角

    本文通过理论分析和几何方法，探究深度神经网络在面对普适性扰动时的稳健性，并揭示了决策边界几何形态（平坦或曲线）与稳健性之间的关系，证明了在正曲率方向上存在共享决策边界的情况下，存在极小的普适性扰动。

    May, 2017