Jul, 2014

如何通过目标传播,使得自编码器对深度神经网络提供信用分配

TL;DR本研究提出了利用重构为深度学习提供层本地的训练信号的方法,重构可以通过目标传播的形式进行传播,类似于反向传播,但有助于减少导数的依赖性以跨越许多水平的可能具有强非线性的学分任务,重构可以是一个更可能是其输入版本的重构,即更高似然性的方向上的小移动,目标传播还可以训练具有离散隐藏单元的深度网络。