- 稀疏贝叶斯学习模型的超参数估计
本文提出了一个综合框架,用于稀疏贝叶斯学习模型中的超参数估计,包括著名的算法如期望最大化、MacKay 和凸包算法。通过交替最小化和线性化范式来统一解释这些算法,并引入了一种新颖的算法,表现出增强的效率,尤其是在低信噪比条件下。此外,还通过 - 高效交替最小化与带权低秩近似的应用
本研究提供了一种有效和稳健的交替最小化框架来解决线性代数和机器学习中的一些问题,关注于都市中加权矩阵的低秩矩阵近似问题,并将运行时间从之前的 n^2k^2 降至 n^2k。
- 交替最小化法解决带有热带有理函数的回归问题
提出了一种用于回归的交替最小化启发式算法,其在固定指数的热带有理函数空间上进行。该方法通过热带多项式回归逐次拟合分子和分母项,并已在实验中展示了其行为。该启发式方法提供了输入数据的合理近似,其工作受到与热带有理函数密切相关的流行机器学习网络 - ICML非可实现设置下的混合线性回归学习
本文研究混合线性回归在预测误差上的问题。我们提出了一种预测方法,其中模型预测一个值列表,而不是预测标签。我们证明了使用最小化所有组件模型的损失所定义的损失函数可以实现小概率的预测误差。此外,我们提出了基于交替最小化的算法,实现了在不需要假设 - 通过强健的秩一矩阵完成实现对抗性众包
本文提出一种用于从受损数据修复秩为一矩阵的算法,特别针对带有任意大干扰的众包数据分类问题,通过交替最小化与极值过滤相结合,本文提供了充分必要的条件,可以在明确哪些信息受到损坏的情况下进行完美修复,并且在 “对抗” 情景下击败了所有现有算法。
- 通过缩放梯度下降加速恶态低秩矩阵估计
本文提出一种新算法 ScaledGD,它是梯度下降方法的预处理或对角线缩放版本,其预处理器是自适应且具有最小的计算开销,在低秩矩阵感知,鲁棒主成分分析和矩阵完成等任务中实现了线性收敛,具有优秀的性能表现。
- 交替最小化和 Nesterov 动量方法的组合
本文提出一种结合 Alternating minimization(AM)和 Nesterov's acceleration 的自适应加速交替最小化算法,可用于解决具有凸性和非凸性的优化问题,同时不需要任何有关问题的凸性或函数参数等知识。通 - ICML通过交替解缠学习数据的离散和连续因子
本文提出一种新方法实现无监督离散和连续特征分离,利用 Beta-VAE 框架通过级联信息流方式最小化连续潜变量的总相关性,并通过分离离散特征的推理过程减轻编码器负担,最后在实验中显示其显著优于现有方法的分离得分和推理网络分类得分。
- 超越反向传播:使用辅助变量的在线交替极小化
本研究提出了一种新的在线 (ALternating Minimization) 方法来训练深度神经网络,同时也给出了该方法在随机设置下的理论收敛保证,并在不同体系结构和数据集上展示出具有前景的实证结果。
- ECCV通过视角一致性进行三维关键点估计的无监督领域自适应
本文提出了一种新颖的无监督领域自适应技术,用于从单个深度扫描或图像预测 3D 关键点,利用视角一致性和几何对齐等方法提高预测准确度,实验结果表明该方法胜于现有的领域自适应技术。
- 非凸集合交替极小化和交替下降
本文研究了应用于两个变量上且每个变量可被限制在潜在非凸约束集上的损失函数的交替最小化方法,该方法在高维统计学和信号处理中常常出现。作者提出了本地凹率系数来度量非凸集合的凹性,进一步揭示了交替和非交替方法之间的重要区别。此外,作者还提出了不精 - ICCV高效低秩张量环完成
本文提出了一种基于张量环分解的张量补全算法,并采用交替最小化算法沿着矩阵积状态来替代分解因子,通过数值实验与已有的低秩张量分解补全算法相比较显示了改进后的表达能力。
- 使用张量分解和交替最小化求解多个随机线性方程混合问题
本研究提出基于张量分解和交替最小化的算法可解决混合线性回归问题,具有多项式复杂度,可在线性维度下提供全局最优性结果。
- 计算机视觉中的半定规划的双凸松弛
本文提出了一种称为双协调松弛的方法,将半定规划问题转化为特定的双协调优化问题,并通过高效的交替最小化法求解。该方法在计算机视觉中的应用包括分割、共分割和流形度量学习,相对于现有方法,性能高达 35 倍,同时处理范围更广的半定规划问题。
- ICML交替最小化法保证加权低秩逼近的恢复
本文提出一种简单的交替最小化算法,提供了带权重低秩矩阵恢复的可证明的等保障,并不需要关于噪声的假设,其误差随交替次数按指数级递减,初始矩阵可以由 SVD 或随机初始化得到,这是一种非常简单的算法,可以显着扩展矩阵补全的结果,特别是那些存在于 - 稀疏编码的简单、高效、神经算法
本文提出了一套通用的框架用于理解交替最小化原理并分析已有的稀疏编码算法,同时设计了具备可证明保障的新算法并在简单的神经结构上实现;给出了首个高效的稀疏编码算法,可以接近或超过用于不相关字典稀疏恢复的信息理论极限,同时改善了现有方法的样本复杂 - 无需考虑条件数的快速矩阵填充
本文介绍了第一种算法,可在多项式时间和样本复杂度内完成矩阵补全,其复杂度与矩阵的秩成正比,与矩阵的维度成线性关系,与矩阵的条件数成对数关系,并基于交替最小化扩展算法,对标准假设下受噪声影响的情况也有理论保证。
- 带有缺失数据的可证明张量分解
本文研究低秩张量分解在缺失数据的情况下的问题,提出了基于交替最小化法的新方法,表明在一定条件下,我们的方法可以从少量采样的条目中精确地恢复一个低秩张量。
- 低秩张量补全的并行矩阵分解
本研究提出了一个新的模型以及应用交替最小化算法和两种自适应秩调整策略同时对低秩张量进行低秩矩阵分解,结果表明,该算法可以在比其他方法更少的数据采样下恢复各种合成低秩张量,而且实际数据的测试结果也有类似优势。
- MM理解矩阵补全的交替最小化方法
使用一种基于交替最小化的新算法,在标准不连贯性假设下,可从一个未知的低秩矩阵中恢复随机子样本的条目,并减少至少一次方之秩和相似矩阵的条件数的交替最小化方法的样本大小要求。