- 针对稀疏互动工作者的众包稀疏一阶矩阵补全的梯度下降
本文提出了一种新的方法,将工人技能评估问题转化为一种秩为 1 的相关矩阵完成问题,并且展示出当采样矩阵不具有二分图连通部分时,相关矩阵可以成功恢复和技能可识别,此外,作者还推导出了基于采样矩阵符号 Laplacian 的样本复杂度界限,并且 - 交替阶段投影梯度下降算法与生成式先验用于解决压缩相位恢复问题
本文基于生成先验提出了解决相位恢复的两种算法,通过分析高斯测量的样本复杂度证明了应用梯度下降算法的性能优于现有的生成先验算法,其中采用 AltMin 法处理非凸稀疏相位恢复问题。
- 用于海量超载 MIMO 信道的可训练投影梯度检测器:数据驱动调整方法
本论文介绍了一个基于深度学习的迭代检测算法,用于具有传输天线数大于接收天线数的大规模超载 MIMO 系统的检测,该算法能够快速有效地收敛参数估计,计算成本低,可扩展性强。
- 排名限制与低秩分解的临界点之间的等价性
本文研究了低秩优化问题中矩阵变量秩约束和低秩分解优化方法的自然联系,证明了低秩分解目标函数的所有二阶稳定点对应于原问题上投影梯度下降算法的不动点,并统一了现有的优化保证,为某些情况下特定的问题提供了新结果。最后,将结果应用于矩阵逆问题。
- AAAI分布式对抗攻击
本文提出了一种解决最优对抗数据分布的方法 —— 分布式对抗攻击(DAA),通过在潜在数据分布空间上进行优化,使攻击样本具有更好的泛化性,实验表明其在对抗训练的模型上的攻击效果优于其他对抗攻击方法。
- 学会检测
本文介绍了两种不同的深度神经网络结构:一个标准的全连接的多层网络和一种特别设计用于该任务的检测网络 (DetNet)。我们将投影梯度下降算法的迭代展开成网络,获得了 DetNet 的结构。我们比较了这两种方法的准确性和运行时间,并成功地在保 - 矩阵补全的留一法:原始和对偶分析
本文介绍了一种基于 Leave-one-out 方法的技巧用于解决低秩矩阵完成问题,进而通过对 Projected Gradient Descent 和 nuclear norm minimization 等算法进行分析,得到了这些算法的收 - 使用 GAN 先验解决线性反问题:具有可证明保障的算法
本研究使用生成对抗网络(GAN)代替稀疏性等手工先验知识来解决线性反问题,提出了一种有效的 PGD 算法,并提供了理论保证,该算法展现出优于现有方法的性能。
- 基于 CNN 的投影梯度下降算法用于图像重建
本文提出了一种新的图像重构方法,使用卷积神经网络代替投影梯度下降器,并设计出一种反馈机制以确保重构图像与测量结果的一致性。该方法提供了正式的框架以确保传统的 PGD 算法收敛于非凸约束最小二乘问题的局部极小值,并使用一个基于 CNN 的简单 - 通过梯度下降学习 ReLU
本文研究学习呈现形式为 $max (0,<w,x>)$ 的修正线性单元(ReLUs)的问题,聚焦于高维场景下,权重向量的维数大于样本数的情形,针对实现可能性模型,展示了投影梯度下降算法在 0 处初始化的线性收敛率,这一结果对于深度架构的动态 - 通过非凸优化破解样本复杂度壁垒的二次测量结构信号恢复
本文针对 $m<<n$ 的欠定情况,在优化变量上施加先前的结构信息,将恢复问题形式化为非凸优化问题,并证明了在任何不变约束集下,投影梯度下降收敛于未知信号的线性速率,这为此数据贫瘠的场景提供了第一个可证实的算法,为理解约束非凸优化启发了强有 - 量子态重构的投影梯度下降算法
本研究使用投影梯度下降法提出了三种新的量子态重构算法,并将它们与现有的算法进行了比较,结果表明投影梯度下降法适用于大规模复杂状态的重构,速度快且表现优异。
- 近乎最优的鲁棒矩阵完成
本文提出了一种简单的投影梯度下降方法来估计低秩矩阵,用于解决鲁棒矩阵完成问题,并且包括清除一些受损条目的步骤,并在低秩矩阵完成问题中获得了最优观测次数和最优破坏次数的解决方法。同时,本文的结果还意味着,对于低秩矩阵完成问题的时间复杂度界限, - 一类范约束矩阵问题的可证明 Burer-Monteiro 分解
本文研究在具有强凸目标的低秩矩阵问题上使用投影梯度下降法。我们利用 Burer-Monteiro 分解方法隐式实现低秩性;这种分解方法引入了目标函数的非凸性。我们着重研究包括半正定(PSD)约束和特定矩阵范数约束在内的约束集。这些标准出现在 - 一种非凸式盲校准随机感知策略方法
本文研究了线性随机感知模型中的盲校准问题,并通过投影梯度下降算法实现全局最优解。实验表明该算法可以实现计算感知中传感器增益的盲校准。
- 投影梯度下降法的快速低秩估计:广义统计和算法保证
通过矩阵分解和投影梯度下降算法解决约束最优化问题,提供了一种通用理论框架,当给定适当的初始化时,可以几何级数地收敛到具有统计意义的解,适用于许多具体模型。
- NIPS高维 M - 估计的迭代硬阈值方法
本文介绍了在高维环境下,使用 M-estimators 在广义线性回归模型中需要风险最小化,并提出了第一个 IHT 样式算法在高维统计学中的分析框架,这对于稀疏回归和低秩矩阵恢复等问题具有实际应用价值。
- 带有噪声和缺失数据的高维回归:非凸性可证明保证
研究高维稀疏线性回归问题在存在噪声、缺失或相关的数据时的情况下,提出了基于投影梯度下降的估计器,并且证明其在多项式时间内收敛到所有全局最小值的近邻,并给出了在统计和计算两个方面的理论保证。