BriefGPT.xyz
Ask
alpha
关键词
minibatches
搜索结果 - 5
通过轨迹抽样进行神经网络集成的小批量训练
本篇论文探讨了使用小批量(minibatches)方法训练神经网络集合(NNEs)的高效方式,并在 MNIST 数据集上验证其可行性,得到了通常为两个数量级的计算时间提升。同时还强调了使用更长轨迹来表示 NNEs 的优势,既可获得更高的推断
→
PDF
a year ago
小批量 Wasserstein 学习:渐近和梯度特性
本文对最优传输距离的使用进行了探索,指出在大规模数据集上计算这些距离的方法是通过平均几个较小的最优传输问题的结果。我们论证了这种方法等效于原问题的隐式正则化,并具有无偏估计,梯度和期望值周围的集中度约束等吸引人的属性。同时我们还开展了梯度流
→
PDF
5 years ago
隐马尔可夫模型的随机梯度马尔可夫链蒙特卡罗方法
开发基于随机梯度 MCMC 算法的隐马尔可夫模型参数学习方法,通过利用内在的记忆衰减特性以应对离散状态与小批量数据带来的挑战,进而在合成实验和电离子通道记录数据上展示该算法的有效性和性能优势。
PDF
7 years ago
Metropolis-Hastings 算法的高效小批次接受性检验
本文提出了一种新颖的 Metropolis-Hastings 方法,用于大型数据集,使用期望大小较小的数据小批量,其测试成本类似于普通 SGD 更新,并且可以比之前的方法实现多个量级的加速。
PDF
8 years ago
MM
通过非线性正交迭代的随机优化进行深度 CCA
本文提出了一种基于小批量迭代求解 CCA 目标的深度神经网络扩展模型 Deep CCA,用于解决随机优化的问题。结果表明,该模型达到了与先前优化器相同的性能,且减轻了内存需求。
PDF
9 years ago
Prev
Next