本文论述了关于从多个观察值中学习字典矩阵的问题,并得出了三个不同的下限,分别应用于不同的生成模型,特别地,其中一下限是通过假设真实字典满足受限等同性性质,并基于信噪比来计算的。
Jul, 2015
本篇论文采用概率模型,证明了采用稀疏编码时在字典生成的参考信号附近可以找到局部极小值,同时考虑过完备字典、噪声信号和可能出现的异常值,这一分析是非渐近的,可以帮助理解信号维度、原子数量、稀疏度和观察次数等关键问题如相干性或噪声级别的比例关系。
Jul, 2014
本文采用概率模型研究了稀疏编码的本地最小值问题,在考虑超完备字典和有噪信号的情况下,证明了稀疏编码接近参考字典生成的信号的局部最小值,同时分析了噪声、信号维度、原子数量、稀疏度和观察数量等关键量如何随之缩放。
Oct, 2012
该论文探讨了字典学习问题的局部解决方案,基于随机稀疏模型,通过低秩矩阵补全问题的工具,克服了一些技术上的难点,并建立了当样本数满足某些条件时,字典和系数的组合可以成为 L1 范数的局部最优解这一结果。
Jan, 2011
本文从统计学习理论的角度探讨了信号处理中字典学习的一些问题,包括在一定约束条件下的系数选择和新信号表示误差的广义界限等,并提供了一些定理和结果。
Nov, 2010
本文研究预测性稀疏编码的推广性能,提出了学习界限并通过稳定性特征刻画了稀疏编码器的性质,进而在超完备和高维情况下提供了精确的估计.
Feb, 2012
本篇论文讨论了使用 $\ell_1$- 最小化学习为给定信号类提供稀疏表示的字典的问题,研究了何时可以通过该算法恢复出一个字典系数对 $(\dico,\X)$,证明了当字典是基向量和使用随机伯努利高斯稀疏模型时,可以通过很少的样本在高概率下获得本地可识别性。
Apr, 2009
本文探讨了关于稀疏编码的问题,其中每个样本由一组字典原子的稀疏线性组合组成,任务是同时学习字典元素和混合系数。我们考虑交替最小化法来处理此问题,并建立了该方法的局部线性收敛性质;同时还证明了全局最优解的吸引盆的尺寸为 $\order {1/s^2}$,其中 $s$ 为每个样本的稀疏度,字典满足有限鲁棒性原则 (RIP)。与最近的近似字典估计结果相结合,可以为完全恢复字典元素和系数提供可证明的保证,当字典元素不相干时。
Oct, 2013
本文提出了一种通用的配合各种任务的有监督学习词典的方法,并介绍了一个解决相应优化问题的高效算法,实验证明这种方法适用于大规模的监督和半监督分类,以及对能够产生稀疏表示的数据的回归任务。
Sep, 2010
本文论述了线性模型下,稀疏向量估计的问题,并建立了一个平方均误差的下限,无论使用何种感知 / 设计矩阵和估计过程,均适用。此下限与以随机投影和 Dantzig 选择器等估计过程计算得到的已知上限极为接近,因此基于压缩感知的技术无法实质性改善。
Apr, 2011