Jun, 2015

通过简化粗糙化方法实现稳健的贝叶斯推断

TL;DR本文提出了一种改进的贝叶斯推断方法,可以通过条件数据的经验分布邻域而不是实际数据,提高模型对扰动的鲁棒性;该方法使用基于相对熵估计的邻域,通过将似然函数提升到分数次幂(即 tempering),使得可以使用标准方法实现推断,甚至在使用共轭先验时也能获得解析解。实验结果表明,在混合模型、未知阶数自回归模型及线性回归变量选择等任务中都能得到良好表现。