基于同伦参数单形法的稀疏学习
本论文提出了一种基于协方差矩阵的稀疏主成分分析方法,采用半正定松弛和贪心算法求解,可以适用于诸如子集选择和稀疏恢复等领域,并能在人工和生物数据等实验数据中提供全局最优解。
Jul, 2007
本文提出了一种新的基于贝叶斯原则的稀疏学习(SBL)的“矩阵完成”和“鲁棒主成分分析”算法,该方法通过将低秩约束作为稀疏约束来确定正确的秩,并能提供很高的恢复性能。
Feb, 2011
本文提出了 MahNMF 方法以及5种扩展,用于处理非负矩阵。利用两种算法,即秩一残留迭代(RRI)方法和Nesterov的平滑方法,有效地优化了MahNMF和其扩展。MahNMF方法在处理重尾部的拉普拉斯噪声时,能够很好地拟合数据,是一种鲁棒性较强的方法。
Jul, 2012
研究了基于Nesterov的对偶平均算法的随机优化算法,在预期损失是强凸的且最优解是(近似)稀疏的问题上进行优化,证明了在局部Lipschitz损失下,在T轮迭代后,我们的解决方案的误差最多为O((slogp)/T),并确立了我们的收敛率是最佳的,且在数值模拟中通过对最小二乘回归问题进行几个基准线的比较,证实了我们方法的有效性。
Jul, 2012
本文提出了一个解决低秩和/或稀疏矩阵最小化问题的一般框架,使用迭代重新加权最小二乘(IRLS)方法来解决混合低秩和稀疏最小化问题,例如用于解决Schatten-p规范和ell_2,q-norm规范的低秩表示问题,理论证明了所获得的解为静止点,并在合成和实际数据集上进行了广泛的实验以证明其有效性。
Jan, 2014
提出一个名为 'tighten after relax' 的两阶段计算框架,其中第一阶段使用建议的凸松弛方法进行近似求解,第二阶段则通过直接求解基础非凸问题的新算法 'sparse orthogonal iteration pursuit' 来迭代优化初始估计值,并证明该框架的稳定性和最优性在特定模型类别下成立。
Aug, 2014
本文考虑在通过随机投影压缩的数据上准确高效地计算低秩矩阵或张量分解的问题。我们研究了在压缩域内执行分解并从恢复(压缩)因子中重构原始高维因子的方法,在矩阵和张量设置中,我们建立了这种自然方法能够证明恢复原始因子的条件。我们对合成数据进行了实验,证实了压缩因式分解在真实世界的基因表达和脑电时间序列数据集中的实际适用性,并支持这些理论结果。
Jun, 2017
本文从统计模型的角度出发,系统地讨论低秩矩阵分解非凸优化的可靠解法,总结出了两种方法:1. 根据问题特征设计初始值,进行迭代求解;2. 利用全局凸性分析,无需初始值,直接求解。文章阐述了这些方法在各种场景下的应用并剖析了其理论基础。
Sep, 2018