在这篇论文中，我们提出了一种自动编码器架构（WLSC），其潜在表示通过二分图的拉普拉斯二次形式实现了隐式的、本地的谱聚类，生成了一组多样的人工感受野，与 V1 的灵长类动物数据具有相近的一致性，而且也展示了我们的正则化可以被解释为感受野对特定刺激类别的早期专门化，即我们为之后的皮质阶段引入了弱的聚类偏差，这是已知的功能性和空间分离（即拓扑）发生的地方。这些结果表明，在对 V1 及其之后的特征分离进行描述时，对感受野和放电率进行空间正则化至关重要。

Nov, 2023

本研究提出了一种基于深度潜在随机变量的自然图像生成模型，其采用新型分布称为修正高斯，其中采用类似 spike-and-slab 的稀疏性，保持了有效的随机梯度变分推断的可微性；通过一个结构化后验分布估计函数的近似，提出了一种新型结构化变分近似方法，避免常规均场假设，并保持了生成模型的先验依赖关系，从而实现了具有许多层潜在随机变量的深度模型的联合训练。

Feb, 2016

我们提出了一种基于卷积循环稀疏自编码器模型，采用了一种简单的方法学习任务驱动的稀疏卷积字典，通过梯度下降和反向传播进行训练，取得与 KSVD 图像去噪和领先的 CSC 方法相竞争的结果，且仅需要他们运行时间的一小部分。

Nov, 2017

本研究旨在探讨通过鼓励稀疏性来学习表示的有效性，提出了一种名为 k-sparse 自编码器的方法，该方法取得了比其他方法更好的 MNIST 和 NORB 分类结果。

Dec, 2013

本文介绍了具有鉴别性的循环稀疏自编码器模型，通过反向传播算法进行训练，在最小化无监督稀疏重构误差的基础上，增加一个有监督的分类鉴别项，可以实现深度网络的全部性能，并显著减少可训练参数数量。通过对输入原型进行分类抽象，学习出了分层的编码结构，小规模的鉴别性循环稀疏自编码器在 MNIST 数据集上表现出色。

Jan, 2013

训练在自然图像上的稀疏编码算法能够准确预测视觉皮层神经元所激发的特征，但不确定是否可以使用生物学真实的可塑性规则来学习这些代码。我们开发了一种生物物理模型的尖峰网络，仅依靠突触局部信息就能预测自然图像上 V1 简单细胞感受野的全部多样性形状，这是首次证明，稀疏编码原则在皮层结构限制下操作时可以成功地再现这些感受野。我们进一步证明，稀疏性和去相关是允许突触局部可塑性规则优化神经表达形成的合作线性生成图像模型的关键因素。最后，我们讨论了我们的网络的几个有趣的新兴属性，以期弥合视觉皮层的理论和实验研究之间的差距。

Sep, 2011

本研究提出一种基于简单元素的线性模型，针对推荐系统的稀疏数据和隐式反馈数据，并展示其训练目标具有闭式解，该简单模型在所有公开数据集上都取得了比深度非线性模型更好的排名准确性。

May, 2019

使用高维稀疏特征表达式通过 L1 正则化的自编码器产生的信息丰富潜在空间，可以有效地用于科学数据压缩，解决高性能分布式计算环境下传输、存储和分析的瓶颈问题。

May, 2024

本文通过研究基于自编码器的坐标下降方法，证明了只需非常温和的分布性假设，依然可以基于自动学习的 ReLU 等门函数自动挖掘稀疏编码的支撑集，而且在原支撑集附近，正则平方损失的期望梯度的范数绝对值随着稀疏编码维数的增加而渐进地降低。

Aug, 2017

本文介绍了关于稀疏模型及其应用的多学科研究，主要涉及模型选择、稀疏编码、图像识别和图像处理等领域。本文针对数据的学习和适应性字典，提供了一种自包含的稀疏建模方法，已在各种领域中获得成功应用。

Nov, 2014