hidden units | BriefGPT - AI 论文速递

关键词hidden units

搜索结果 - 7

Laplace 近似下的可学习不确定性
本文提出一种方法来训练拉普拉斯逼近神经网络中的不确定性，介绍了用于拉普拉斯逼近网络的不确定性单元，并通过不确定性感知目标来训练这些单元，以提高在不同不确定性量化任务中的性能表现。
PDF4 years ago
NIPS使用 Frank-Wolfe 学习无限 RBMs
本文提出一种无限受限玻尔兹曼机，其最大似然估计对应于一个约束的凸优化问题，并采用 Frank-Wolfe 算法解决该问题，这提供了一种可以解释为在每次迭代中插入一个隐藏单元的稀疏解，从而优化过程类似于不断增加复杂度的有限模型序列。因此，也可
PDF7 years ago
NIPS通过减弱训练来压缩神经网络分类器
介绍了一种称为 Dropout Compression 的新型神经网络训练方法，可以在训练时实现大型模型中的 dropout 正则化性能提升，同时提取出紧凑型的神经网络以实现运行时效率，通过引入对单个神经元 dropout 保留概率的稀疏性
PDF8 years ago
EMNLP自适应神经网络：应用于 n-gram 语言模型
本文介绍一个通过正则化方法对神经网络进行自动调整的算法，此算法可以用于选择神经网络中隐藏层单元的数量，同时用于语言模型和机器翻译中保持了困惑度，使得更小的神经网络可以维持 unpruned 版本的显著改进。
PDF9 years ago
无限受限玻尔兹曼机
本文提出了一种对受限玻尔兹曼机的数学构造，它不需要指定隐藏单元的数量，通过将 RBM 扩展为对其隐藏单元进行排序的灵敏性，再通过精心选择的能量函数的定义，我们表明，无限多的隐藏单元的极限是有定义的，并且该算法在学习过程中可以自然和自适应地添
PDF9 years ago
受限玻尔兹曼机的表现能力和逼近误差
本研究通过研究 Restricted Boltzmann Machines 所学习的概率分布，提出了几个具有代表性的概率分布，旨在展示该模型的表达能力。结果表明，最大的 Kullback-Leibler 散度上界受限于 $n - log
PDF10 years ago
多层感知器图像去噪，第二部分：训练的权衡和机制分析
本文详细讨论多层感知器在图像去噪中需要考虑的权衡问题，分析隐藏单元的激活模式，从而观察训练的原理，并取得了良好的结果。
PDF12 years ago