从生成器网络中诱导稀疏编码和与或语法
在这篇论文中,我们提出了一种自动编码器架构(WLSC),其潜在表示通过二分图的拉普拉斯二次形式实现了隐式的、本地的谱聚类,生成了一组多样的人工感受野,与 V1 的灵长类动物数据具有相近的一致性,而且也展示了我们的正则化可以被解释为感受野对特定刺激类别的早期专门化,即我们为之后的皮质阶段引入了弱的聚类偏差,这是已知的功能性和空间分离(即拓扑)发生的地方。这些结果表明,在对 V1 及其之后的特征分离进行描述时,对感受野和放电率进行空间正则化至关重要。
Nov, 2023
通过引入数据的稀疏性到生成式分层模型中,我们展示了学习到的抽象表达和空间变换的不变性之间的强相关性,并解释了卷积神经网络在 Sparse Random Hierarchy Model (SRHM) 中的样本复杂性如何依赖于任务的稀疏性和分层结构。
Apr, 2024
通过学习稀疏编码图像的通用稀疏编码字典和针对特定标签的转换函数,我们的方法可以将测试图像进行语义分割。我们在轮廓检测任务上展示了与当前最先进系统相当的性能,并展示了在人脸语义分割任务中的初步结果。
Oct, 2014
本文提出一种新方法进行稀疏编码,在学习稀疏分布时通过截断样本避免使用有问题的松弛方法。通过在 Fashion MNIST 和 CelebA 数据集上与标准变分自编码器进行比较,证明了该方法具有更优越的性能、统计效率和梯度估计。
May, 2022
利用稀疏像素网格表示快速且三维一致地进行生成建模,通过融合渐进式生长、自由空间修剪和适当的正则化方法将单块的 MLPs 替换成三维卷积,实现对具有高视觉保真度的三维场景的高效渲染。
Jun, 2022
通过对称矩阵因式分解的正则化误差,我们提出了一种新的代价函数,使得在线算法可以学习到 Gabor 滤波器感受野,同时使用仅限生物合理的局部学习规则,从而解决了 Olshausen 和 Field 所提出的算法中存在的生物学上不现实的非局部性学习规则的问题。
Mar, 2015
本文研究了如何应用感知模型稀疏性,以实现语言理解问题中的组合泛化和更好的样本利用率。通过设计一个包含目标识别模块的智能体,鼓励指令中的词汇与环境属性的稀疏相关性相结合,输出作为价值迭代网络计划器的输入,从而保持高性能。
Jul, 2022
我们引入了一种发现和应用稀疏特征电路的方法,这些电路是人可解释特征的因果相关子网络,用于解释语言模型的行为。与以前的工作中的电路相反,稀疏特征电路基于细粒度单元,可以提供对预期之外的机制的详细理解,并且在下游任务中非常有用。我们介绍了 SHIFT,通过消除人类判断为任务无关的特征,改善了分类器的泛化能力。最后,我们展示了一个完全无监督和可扩展的可解释性流程,用于自动发现模型行为中的成千上万的稀疏特征电路。
Mar, 2024