BriefGPT.xyz
Ask
alpha
关键词
backprop
搜索结果 - 4
稀疏分布数据中是否可以避免维数灾难采用类何比学习规则?
本文探讨了大脑如何使用 Hebbian 学习规则来避免高维稀疏分布表示的 “维度灾难” 问题,并使用特定的稀疏数据集来证实使用 Restricted Boltzmann Machines 分类器的好处。
PDF
2 years ago
连续反向传播:带有持续随机性的随机梯度下降
在神经网络的反向传播算法中,初始随机权重对于其整个训练过程至关重要,但在不断学习的设置下,其学习性能会逐渐下降,为了解决这个问题,提出了一种名为 Continual Backprop 的新算法,通过连续注入随机特征,它在有监督和增强学习问题
→
PDF
3 years ago
AAAI
Kickback 削减反向传播的红色条条:神经网络中生物学可行的信用分配
本文中,我们对反向传播(Backprop)算法以及信用分配问题进行了重新审视,提出了一个新的算法 ——Kickback。通过对其性能设立担保限度,我们分解反向传播为一系列交互式的学习算法,并将其误差信号分解。最后,我们给出了 Kickbac
→
PDF
10 years ago
ICML
基于反向传播训练的深度生成随机网络
该论文提出了一种新的概率模型训练原则 —— 基于学习马尔可夫链的转移算子,其稳态分布估计数据分布,并能采样出变量的子集。我们提供了一些定理以证明该方法的有效性,该方法也能适用于带有缺失变量的情况,并且不需要分层逐层预训练。
PDF
11 years ago
Prev
Next