- ICLR结构性对抗攻击:向通用实现和更好的可解释性迈进
本文提出一种名为 StrAttack 的结构化攻击模型,通过滑动掩模来提取关键的空间结构并具有更好的可解释性,该模型能够实现与现有攻击方法相同水平的 Lp 范数失真的强组稀疏化。实验证明 StrAttack 在 MNIST、CIFAR-10 - StructADMM: DNNs 的结构化权重剪枝的系统性、高效性框架
提出了一个系统性的结构裁剪框架来优化 DNNs,使用随机梯度下降和 ADMM,可以以更高的加速度进行优化,即使在一些有损准确性的情况下,模型的压缩率也能达到 15.0 倍。
- 多视角谱聚类的必要张量学习
本文提出了一种基于马尔科夫链的谱聚类方法,并利用一种新颖的本质张量学习方法探索了多视角表示的高阶相关性,通过 Tensor Singular Value Decomposition 基于张量核范数以保持本质张量的低秩性,同时减少了计算复杂性 - 使用交替方向乘子法的系统性 DNN 权重剪枝框架
采用交替方向乘子法(ADMM)的系统性权值剪枝框架解决了深度神经网络中常见的非凸优化问题和稀疏性约束问题,实现了较快的收敛速度和较优的剪枝效果。
- 基于 ADMM 的深度神经网络敌对攻击通用框架
本文采用 ADMM(Alternating Direction Method of Multipliers)的算子分裂优化方法来生成对抗样本,统一了 L0,L1,L2 和 L infinity 攻击的方法,与当前领先的攻击方法相比,实验结果 - 多项式仿射约束优化的 ADMM 算法
本文提出了一种基于 ADMM 算法的方法,可以用于解决包含多元仿射约束条件及非凸、非光滑目标函数的优化问题,并证明在满足特定条件下,该方法可以收敛于受约束的稳定点解集合,且在 Kurdyka-Lojasiewicz 性质成立的情况下,可进一 - CVPRMAP 推断的连续松弛:一个非凸视角
本研究探讨离散马尔可夫随机场的最大后验概率推断的非凸连续松弛,研究表明该松弛对于任意马尔可夫随机场都是紧密的,并且可以通过简单的块坐标下降算法轻松地达到其离散稳定点。我们进一步研究了使用基于交替方向乘子法 (ADMM) 的多线性分解框架的高 - 使用交替方向乘子法进行深度神经网络的系统权重剪枝
本文利用交替方向乘子法 (ADMM) 提出了一种深度神经网络 (DNNs) 系统权值剪枝框架,通过约束非凸优化问题,并借助 ADMM 框架对权重剪枝进行有序化处理,以在保持相同测试精度以内的情况下实现更高的压缩率和更快的收敛速率。
- KDDLSALSA:通过学习稀疏编码加速源分离
本研究提出了一种用于稀疏编码(SC)问题的高效算法,既适用于单个字典设置,又适用于形态学组分分析(MCA)中的多个字典设置;该算法采用深度学习结构,可以加速获得稀疏编码,并在提高运行速度、提高数据质量和改善视觉清晰度方面取得了巨大的改进。
- 小批量随机 ADMM 方法求解非凸非光滑优化问题
本文提出了一种用于解决大规模非凸非光滑问题的小批量随机 ADMM 类方法,并将小批量随机梯度方法扩展到非凸 SVRG-ADMM 和 SAGA-ADMM 中。
- AAAI交替方向乘子法的非凸稀疏谱聚类及其收敛性分析
该研究提出了一种基于交替方向乘子法 (ADMM) 的非凸稀疏谱聚类算法,直接对 $UU^ op$ 施加稀疏正则化,该算法具有收敛保证和高效性,实验结果验证了其有效性。
- 近端 - 近端 - 梯度法
本文提出了一个新的优化方法 PPG,它可以解决很多可以表示为许多可微分和许多不可微分的凸函数总和的最小化问题,并放宽了不可微分函数之间的限制,同时还引入了称为 S-PPG 的随机变异方法。这些方法具有处理大量不可微分,不可分离函数的能力,并 - 极低比特神经网络:利用 ADMM 提高比特精度
本文主要介绍了一种基于极低位神经网络,将离散约束优化问题分解成几个子问题,并结合了交替方向乘子法和迭代量化算法来加速优化过程的算法。实验证明该算法比现有技术更适用于极低位神经网络的图像识别和目标检测任务。
- 可扩展的在线稀疏卷积编码
通过在线学习,将卷积稀疏编码(CSC)目标重新表述,并利用交替方向乘子方法(ADMM)求解其优化问题,显著提高了算法训练效率和图像重建性能,同时能够处理更大规模的图像数据集。
- 非凸约束的非线性等式问题交替方向乘子法的一般化
本文提出了一种扩展了 Alternating Direction Method of Multipliers 框架的方法 neADMM,可以用来解决非线性等式约束问题,并针对其中难点之一的非凸子问题提出了全局最优解决方案,实验结果表明这种方 - 带收敛分析的非凸非光滑优化的线性化 ADMM
本篇论文提出两种针对非凸非光滑目标函数的扩展线性交替方向乘子法 (ADMM),均在较少的前提下保证收敛,并且可以使用多个块来并行计算协同变量以更有效地求解问题。
- CVPR自适应松弛 ADMM:收敛理论和实践实现
本文针对解决计算机视觉和机器学习应用中涉及到的非可微目标函数和约束的优化问题所采用的交替方向乘子法,提出了一种自适应的松弛 ADMM(ARADMM)方法,旨在通过自动调节关键算法参数,实现最佳性能而无需用户监管。通过对 ARADMM 进行详 - 机不可失,时不再来:通过去噪正则化(Denoising Regularization,RED)
提出了一种名为 Regularization by Denoising (RED) 的基于去噪算法的正则化框架,通过显式的图像自适应基于 Laplacian 的正则化函数,可以非常有效地处理一般性逆问题,同时可以灵活地选择迭代优化过程,测试 - 网络上个性化模型的分散协作学习
本论文研究了一组学习代理在协作对等网络中,每个代理根据自己的学习目标学习个性化模型。本文介绍和分析了两种异步流言算法,以完全分散的方式运行。我们的第一种方法旨在在网络上平滑预训练的本地模型,同时考虑每个代理在其初始模型中的置信度。在我们的第 - 多体非刚性结构运动
利用子空间聚类的方法,本文首次提出了一个针对多体非刚性 SFM 的有效框架,能够同时将每个 3D 轨迹重建和分段到其各自的低维子空间中,并通过对合成和真实数据序列进行广泛实验验证其功效,明显优于其他替代方法。