具有对抗噪声的可压缩信号的恢复保证
在本文中,我们探讨了量化线性测量的恢复问题,提出使用量化仿射测量可更好地保留信号的范数信息,并在一定条件下更容易实现稀疏信号的恢复,并可以在已知半径的欧几里得球内成功地估计所有这些稀疏向量的范数。
Apr, 2014
本文探讨应对不同规范的对抗性攻击所产生的难题,并提供了一些理论和经验性的见解,讨论如何结合现有的防御机制来提高神经网络的鲁棒性。实验结果表明,这些新的防御机制能更好地保护神经网络不受两种规范攻击。
Mar, 2019
提出了一种基于生成模型神经网络的方法来恢复受稀疏离群值干扰的压缩测量信号,通过迭代交替方向乘子法和梯度下降法检测稀疏离群值,建立了恢复保证,通过实验表明此方法优于传统方法。
Oct, 2018
本文提供了一种新的算法,用于逼近离散傅里叶变换的近似稀疏信号,该信号被最坏情况下的 $L_0$ 噪声污染,即信号的一定数量的坐标被任意破坏。我们的技术推广到了各种线性变换,如离散余弦变换、正弦变换、Hadamard 变换及其高维模拟。我们利用该算法成功防御了图像分类领域中著名的 $L_0$ 对抗者,对 MNIST、Fashion-MNIST 数据集上的基于 Jacobian 的显著性地图攻击 (JSMA)、Carlini Wagner (CW)$L_0$ 攻击以及在 ImageNet 数据集上的对抗性补丁的实验结果进行了讨论。
Dec, 2018
通过引入 Lipschitz 逼近处理不连续观测模型,我们提出了一个统一的框架,用于推导非线性压缩感知中的统一恢复保证,其中观测模型是非线性的且可能是不连续或未知的,并以 1 位 / 均匀量化观测和单索引模型作为典型示例。
Sep, 2023
本文考虑使用单隐藏层神经网络模型去解决回归问题,探讨了激活函数的属性,比如 ReLU、leaky ReLU、sigmoid 等都满足局部强凸性。文中还提出了使用张量方法对参数进行初始化,并配合梯度下降算法使用来解决回归问题。最终达到了使用线性的输入维数和对数精度计算复杂度的样本复杂性和计算复杂性要求。
Jun, 2017
研究了在有噪声的情况下通过最小数量的线性测量以及量化后的符号来估计稀疏单位向量,证明了 Binary Iterative Hard Thresholding 算法在这种情况下提供了比所有已知方法更好的结果,实现了迭代硬阈值法在存在测量误差下的稳定性。
Oct, 2023
本文提出了一种新的神经网络设计方法,基于 L∞-dist neuron 进行构造,设计出的 L∞-dist 网络是个具有 1-Lipschitz 性质,可以提供理论保障的鲁棒性,并且具有足够的表达能力。通过实验,证明了该新型神经网络设计在 MNIST、CIFAR-10 以及 TinyImageNet 上均取得了目前最优秀的性能。
Feb, 2021
本研究旨在针对高维信号恢复问题,提出了基于修正线性单元的一比特和均匀多比特量化的凸规划算法,在线性测量过程中添加设计良好的噪声,从而获得最优近似重构保证,并证明了该算法对位坏的鲁棒性。其中,Dirksen 和 Mendelson 对非高斯超平面镶嵌的最新结果作为证明依据。
Nov, 2019