ICMLJun, 2017

具有主题层自适应随机梯度黎曼 MCMC 的深层潜在狄利克雷分配

TL;DR针对深度离散潜变量模型中的梯度计算和步长适应问题,本论文提出了利用数据增广和边缘化技术,得到分块对角 Fisher 信息矩阵及其逆的深度潜在狄利克雷分配表示,并利用该矩阵和随机梯度马尔科夫链蒙特卡罗方法,提出了主题 - 层适应性的随机梯度里曼蒙特卡罗方法,可全局学习所有层和主题的全局参数,实现了在大数据集上的最新成果。