利用深度神经网络构建常规决策边界
本文研究了深度神经网络在输入空间中的几何属性,通过系统实证研究发现,深度神经网络具有连通的分类区域并且其在数据点附近的决策边界在大多数方向上是平坦的,同时该文进一步证明了深度神经网络曲率决策边界的本质联系,最终提出了一种基于决策边界曲率的小型对抗样本检测方法。
May, 2017
本篇论文提出了一种新的损失函数,通过对深度神经网络中任意一组层(包括输入和隐藏层)的度量度量范数施加边缘来实现任意选择度量的边缘的深度网络。本文的损失具有较好的特性,适用于小训练集,分类和鲁棒性等任务,与现有数据扩增和正则化技术相辅相成。
Mar, 2018
通过将深度卷积神经网络应用于边界检测任务,结合精心设计的损失、多分辨率架构和外部数据的训练,结合基于 Normalized Cuts 技术的聚类方法的深度学习,将边界检测的最优分割数据量的 F 测量从 0.780 提高到 0.808,成功提升了现有技术水平,并在与语义分割任务相结合的测试中表现出对现有系统的明显改进。
Nov, 2015
本文通过使用小的卷积滤波器的架构,对不断增加深度的网络的精度进行了全面评估,表明通过将深度推到 16 至 19 个权重层,可以显著提高以往技术水平,并在 ImageNet Challenge 2014 中获得了第一和第二名。我们还证明了该表示法在其他数据集上具有很好的泛化性能,并公开了我们表现最佳的两个 ConvNet 模型,以便进一步研究深度视觉表示在计算机视觉中的应用。
Sep, 2014
通过在反向鲁棒性领域借鉴工具并提出一种新视角,本文关注了神经网络决策边界的特性,研究表明神经网络对非判别特征具有高度不变性,其决策边界必须在训练分类器中采用某些特征才能存在,并且决策边界的构建对训练样本的微小扰动极其敏感。
Feb, 2020
本文回顾了最近关于层级神经网络结构的研究成果,探讨了深度卷积神经网络优于浅层神经网络在函数近似问题中的表现条件。本文提出了一个新的对于相对维度的定义,该定义可以被深层网络而非浅层网络使用以显著降低近似和学习所需的复杂度。同时,本文还宣布了关于当前神经网络中使用的非平滑激活函数 - ReLU 函数以及高斯网络的新结果。
Aug, 2016