ICLRJul, 2018

ARM: 用于随机二值网络的增广 - 强化 - 合并梯度

PDF
TL;DR本篇论文提出了一种叫做 ARM 估计量的反向传播算法，用于通过随机二进制层进行梯度反向传播，具有无偏差，低方差和低计算复杂性的特点。ARM 估计器通过变量增广、REINFORCE 和再参数化实现自适应方差缩减，通过公共随机数合并两个期望值。ARM 估计器的方差缩减机制还可归因于增广空间中的对称抽样或使用增广空间中的最优反对称 “自控” 基线函数以及一起使用 REINFORCE 估计器。实验结果表明，ARM 估计器在具有一个或多个随机二进制层的离散潜变量模型的自动编码变分推断和最大似然估计中提供了最先进的性能。
backpropagationstochastic binary layersaugment-reinforce-merge estimatorvariance reductionmonte carlo integration
发现论文，激发创造
  • DisARM：二元潜变量反义梯度估算器

    介绍了 ARM 估计量无法完全缓解的波动性问题，提出了 DisARM 估计量，通过从增广变量中积分，成功地减少了波动性，同时保持与 ARM 相同的计算代价并在多样本变分边界优化中优于当前的 VIMCO 方法。

    Jun, 2020

  • ARSM：用于梯度反向传播的增强 - 强化 - 交换 - 合并估计器，适用于分类变量

    使用 ARSM 梯度估算器通过加强 - REINFORCE - 交换 - 合并技术解决了通过分类变量进行反向传播的挑战，具有无偏差和低方差的特点。该方法使用 Dirichlet 分布的期望来重新表达梯度，并使用变量交换和共享随机数来获得显著的方差减少，并为离散动作的策略梯度提供 “尝试和自我评论” 的方差减少方法。

    May, 2019

  • $L_0$-ARM: 基于随机二进制优化的网络稀疏化

    本论文研究了网络稀疏化问题，将其视为 $L_0$ 范数正则化的二元优化问题，并使用了 ARM 算法来解决，在保持基线方法准确性的同时实现了优秀的网络剪枝率。

    Apr, 2019

  • 贝叶斯加性回归网络

    应用贝叶斯加法回归树（BART）原理对小型神经网络进行回归任务的训练，通过马尔科夫链蒙特卡洛从具有单隐藏层的神经网络的后验分布中进行采样并应用吉布斯采样来更新每个网络，演示了该技术在多个基准回归问题上的有效性，并与等效的浅层神经网络、BART 和最小二乘法进行比较，我们的贝叶斯加法回归网络（BARN）提供了更一致且通常更准确的结果。在测试数据基准中，BARN 的平均根均方误差较低，降低了 5% 至 20%。然而，这种误差性能的提升代价是更长的计算时间，BARN 的计算时间可能为一分钟，而竞争方法只需一秒或更短，但是没有经过交叉验证的超参数调整的 BARN 与其他方法总体上需要相同的计算时间，然而 BARN 通常更准确。

    Apr, 2024

  • 基于预测自回归模型的预测采样

    本论文提出了一种预测采样算法，利用 ARMs 的快速推断能力加速采样，证明其在二元 MNIST 等设置下可显著提高推断调用次数和采样速度。

    Feb, 2020

  • 蒙特卡罗目标的双重重参数化梯度估计器

    本文提出了一种称为双参数梯度估计器的方法，用于 Deep latent variable models 中的训练，并证明了该方法的可行性和有效性。

    Oct, 2018

  • REBAR: 离散潜变量模型低方差、无偏梯度估计

    本文通过将控制变量与连续松弛相结合的方式来降低离散潜在变量的高方差梯度估计，并引入了一种在线调整松弛度的修改方法，实现了最先进的方差降低并加速了生成建模任务中的收敛。

    Mar, 2017

  • 正确地训练和推断任意阶自回归模型

    本文针对任意条件建模中的核心问题，提出了一种针对 Any-Order 自回归模型（AO-ARMs）的新的、有效的训练方法，通过训练一组更小的一元条件分布同时提升性能并保证可计算性，在文本、图像和连续数据等领域中取得了最先进的结果。

    May, 2022

  • 自回归神经网络的无偏蒙特卡罗聚类更新

    该研究提出了一种使用物理对称性和变尺度聚类更新以消除偏差且方差较低的方法来进行高维概率分布的无偏抽样，测试了其在经典自旋系统的一阶和二阶相变中的可行性。

    May, 2021

  • UQ-ARMED: 面向聚类非独立同分布数据的对抗正则化混合效应深度学习的不确定性量化

    本文比较了 4 种常见的表观 UQ 方法，即 BNN、SWAG、MC dropout 和集成方法，在 ARMED MEDL 模型的统计指标、协变系数和预测置信度方面的能力，实验结果表明，90％子采样的集成方法提供了最佳的全面性能，同时保持 MEDL 使用 ARMED 的基线性能，并为模型拟合，协变系数和预测提供了统计显着性。

    Nov, 2022