卷积稀疏编码学习

Nov, 2017

Learned Convolutional Sparse Coding

Hillel Sreter, Raja Giryes

TL;DR我们提出了一种基于卷积循环稀疏自编码器模型，采用了一种简单的方法学习任务驱动的稀疏卷积字典，通过梯度下降和反向传播进行训练，取得与 KSVD 图像去噪和领先的 CSC 方法相竞争的结果，且仅需要他们运行时间的一小部分。

Abstract

We propose a convolutional recurrent sparse auto-encoder model. The model consists of a sparse encoder, which is a convolutional extension of the learned ISTA (LISTA) method, and a linear convolutional decoder. O

convolutional recurrent sparse auto-encoder sparse encoder convolutional dictionary sparse code image inpainting

发现论文，激发创造

监督卷积稀疏编码

通过加入监督正则化项来扩展卷积稀疏编码模型并学习具有判别性的字典，从而实现更好的图像重建和更语义相关的字典元素。

Apr, 2018

局部处理的卷积字典学习

本文介绍了基于局部稀疏度量的全局模型，解决了传统基于补丁的稀疏表达的限制，通过操作图像补丁来解决卷积稀疏追踪问题并训练涉及的滤波器，为图像修补和分离问题提供了一种直观的算法。

May, 2017

重新思考自然图像的 CSC 模型

本文研究了基于稀疏表示和卷积的稀疏编码模型在图像处理中的应用，提出了与此模型相关的贝叶斯理论，并使用分阶段卷积的前馈网络构建了一个新的模型，用于降噪等任务。实验证明，该模型的性能可以达到与现有技术相当水平，同时使用的参数明显更少。

Sep, 2019

V1 的稀疏几何自编码器模型

该论文提出了一种基于自编码器的结构稀疏方法，可以更好地匹配灵长类数据，使用加权 L1 约束的自编码器目标函数保留了稀疏编码框架的核心思想。

Feb, 2023

多层卷积稀疏建模：追踪与字典学习

本研究提出了一种新的解释卷积神经网络的模型，即多层卷积稀疏编码模型，并解决了该模型展开等问题，进而把该模型用于无监督学习中的不同应用中，取得了有竞争力的结果。

Aug, 2017

通过卷积稀疏编码分析卷积神经网络

提出了一种新的多层模型，ML-CSC，其信号被假定为从一系列 CSC 层中出现。CNN 的前向传递实际上是服务于 ML-CSC 模型的阈值追踪，将 CNN 与 ML-CSC 模型紧密联系起来，为 CNN 带来了新的视角，同时也提出了一个与去卷积网络相关的前向通道替代方案，具有更好的理论保证。

Jul, 2016

可扩展的在线稀疏卷积编码

通过在线学习，将卷积稀疏编码（CSC）目标重新表述，并利用交替方向乘子方法（ADMM）求解其优化问题，显著提高了算法训练效率和图像重建性能，同时能够处理更大规模的图像数据集。

Jun, 2017

在线样本相关字典的卷积稀疏编码

本文提出了一种使用样本依赖性字典而不是共享字典进行卷积的新方法，从而允许捕捉大量的样本依赖性模式，同时保持在线学习效率，实验结果表明该方法比现有的 CSC 算法更快速高效。

Apr, 2018

第一阶段检索的复合编码稀疏自编码器

本文提出了一种用于文档表示的复合码稀疏自动编码器（CCSA）方法，以近似最近邻（ANN）搜索为基础。该模型可以替代传统的词袋模型，并可与最近的基于图的 ANN 技术相结合。经实验证明，CCSA 在给定数据集上优于 IVF with product quantization，同时，CCSA 的二进制量化对于基于图的 HNSW 方法的索引大小和内存使用有好处，并保持良好的召回率和 MRR。

Apr, 2022

使用展开网络进行聚类归纳偏差

在这篇论文中，我们提出了一种自动编码器架构（WLSC），其潜在表示通过二分图的拉普拉斯二次形式实现了隐式的、本地的谱聚类，生成了一组多样的人工感受野，与 V1 的灵长类动物数据具有相近的一致性，而且也展示了我们的正则化可以被解释为感受野对特定刺激类别的早期专门化，即我们为之后的皮质阶段引入了弱的聚类偏差，这是已知的功能性和空间分离（即拓扑）发生的地方。这些结果表明，在对 V1 及其之后的特征分离进行描述时，对感受野和放电率进行空间正则化至关重要。

Nov, 2023