Oct, 2012

基于边际回归的平滑稀疏编码学习稀疏表示

PDF
TL;DR本文提出并分析了一种基于核平滑和边缘回归的新型稀疏表示学习框架，该方法提供了一个灵活的框架，通过非参数核平滑技术，将特征相似性或时间信息纳入数据集中，这对于稀疏编码、半监督稀疏编码等任务具有重要作用。我们提出了 Smooth Sparse Coding 的广义界限，揭示了样本复杂度取决于所使用的核函数的 L1 范数。此外，我们提高了获得稀疏码的速度，并允许扩展到大规模字典大小的具体操作，我们在数个真实数据集上进行了大量实验证明了所提出的方法的优点。
sparse representationskernel smoothingmarginal regressiondictionary learningsemi-supervised sparse coding
发现论文，激发创造
  • 稀疏且伪像：带有噪声与离群点的字典学习

    本篇论文采用概率模型，证明了采用稀疏编码时在字典生成的参考信号附近可以找到局部极小值，同时考虑过完备字典、噪声信号和可能出现的异常值，这一分析是非渐近的，可以帮助理解信号维度、原子数量、稀疏度和观察次数等关键问题如相干性或噪声级别的比例关系。

    Jul, 2014

  • 基于核方法的对称正定矩阵稀疏编码和字典学习

    该论文提出使用 Riemann 流形进行稀疏编码和字典学习以帮助计算机视觉问题，通过嵌入再生核赫尔伯特空间来解决稀疏编码问题，并进一步提出一种学习 Riemann 字典的算法，实验结果表明其比现有的算法更为准确。

    Apr, 2013

  • 非参数稀疏性和正则化

    研究非线性模型下的监督学习与变量选择问题，提出一种基于偏导数的非参数稀疏模型，利用再生核希尔伯特空间的概念和近端方法得出最小化问题及迭代求解算法，并通过理论和实验分析表明其具有优秀的性能表现。

    Aug, 2012

  • 关于预测稀疏编码的样本复杂度

    本文研究预测性稀疏编码的推广性能，提出了学习界限并通过稳定性特征刻画了稀疏编码器的性质，进而在超完备和高维情况下提供了精确的估计.

    Feb, 2012

  • 采用分层稀疏编码学习单词表现

    提出了一种使用启发自单词意义语言学研究的稀疏编码中的分层正则化来学习单词表示的新方法，并展示了一种基于随机近端方法的高效学习算法，用于处理数十亿单词令牌的层次稀疏编码，实验表明该方法在各种基准任务上的表现优于或与最先进的方法相媲美。

    Jun, 2014

  • 监督式字典学习

    本文提出了一种新的稀疏表示模型，该模型采用共享字典和多个类别判定函数来描述不同类别的信号，并提出了学习该模型所有组件的优化方法，进一步提高了手写数字和纹理分类任务的准确性。

    Sep, 2008

  • 稀疏编码的简单、高效、神经算法

    本文提出了一套通用的框架用于理解交替最小化原理并分析已有的稀疏编码算法，同时设计了具备可证明保障的新算法并在简单的神经结构上实现；给出了首个高效的稀疏编码算法，可以接近或超过用于不相关字典稀疏恢复的信息理论极限，同时改善了现有方法的样本复杂度。

    Mar, 2015

  • 学习高效结构稀疏模型

    本文提出了一个用于结构化稀疏编码和建模的综合框架，扩展了使用可学习的快速回归器来逼近精确稀疏编码的最近思想，并演示了一个有效的前馈体系结构来近似精确结构化稀疏编码与标准优化方法相比，此体系结构的复杂性仅为一小部分，并且可以应用于大规模实时应用，因此该框架适用于大规模应用的实时情况。

    Jun, 2012

  • 稀疏字典学习在噪声存在下的局部稳定性和鲁棒性

    本文采用概率模型研究了稀疏编码的本地最小值问题，在考虑超完备字典和有噪信号的情况下，证明了稀疏编码接近参考字典生成的信号的局部最小值，同时分析了噪声、信号维度、原子数量、稀疏度和观察数量等关键量如何随之缩放。

    Oct, 2012

  • 流式稀疏回归的统计学

    本文介绍一种基于稀疏近似的随机梯度下降算法，该算法能够在类似 Lasso 的条件下表现良好，并且无需更多的计算资源。在实验中，我们发现我们的方法在真实数据和模拟数据上均表现出色。

    Dec, 2014