Nov, 2023

利用 CatLog 导数技巧对分类分布进行可微分抽样

PDF
TL;DR我们提出了 CatLog-Derivative 技巧，该技巧针对分类分布，并用于引入 IndeCateR，一个新颖且无偏的梯度估计器，具有比 REINFORCE 更低方差的重要独立分类分布产品情况，并通过实验证明同样数量的样本下 IndeCateR 的梯度估计具有显著较低的偏差和方差。
categorical random variableslatent variable modellog-derivative trickcatlog-derivative trickindecater
发现论文，激发创造
  • 离散潜变量的联合梯度估计器

    该研究提出了一种基于重要性采样和统计耦合的派生估计器，将分类变量重新参数化作为二进制序列，并进行 Rao-Blackwellization，结果表明该方法在离散潜变量训练中具有最先进的性能。

    Jun, 2021

  • AdaCat: 自适应离散化用于自回归模型

    通过提出一种自适应的分类离散化方法，优化自回归生成模型中的连续数据分布，提高参数效率，并在现实世界的数据、图像、音频和轨迹中改善密度估计，同时改进了基于模型的离线强化学习中的规划。

    Aug, 2022

  • Gumbel-Softmax 分类再参数化

    本论文介绍了一种新的 Gumbel-Softmax 梯度估计器，用于处理类别离散型变量，能够有效地支持半监督学习以及结构化输出预测和无监督生成建模任务，并且可以通过渐进式的方式向分类型分布过渡。

    Nov, 2016

  • 离散分布的可伸缩抽样：梯度抽取错误

    使用似然函数关于离散变量的梯度来提议更新，在一些复杂的模型上，我们的采样方法包括 Ising 模型、Potts 模型、受限玻尔兹曼机和分步隐马尔可夫模型等方面表现出优异的性能，并且有效提升以往在高维离散数据处理方面经常使用的变分自编码器和现有基于能量模型的方法的性能。同时我们证明，该方法是在局部更新的抽样器中几乎是最优的。

    Feb, 2021

  • 基于梯度的学习的范畴基础

    本文提出了一种基于 lens、参数化映射和反向导数类别的梯度机器学习算法的范畴语义学方法。该方法不只包含了 ADAM、AdaGrad 和 Nesterov momentum 等多种梯度下降算法，还将 MSE 和 Softmax 交叉熵等多种损失函数包含在内，从而阐明它们的相似性和差异性。同时，该方法不仅适用于连续域，还可以推广到布尔电路的离散设定。此外，文中还以 Python 语言实现了该方法的具体应用。

    Mar, 2021

  • 通过无放回抽样估计离散随机变量的梯度

    本文提出了一种基于无重复抽样的离散随机变量期望无偏估计方法，将其与 REINFORCE 算法相结合，得到了具有内置控制变量的策略梯度估计器，并应用于多种任务得到了良好的效果。

    Feb, 2020

  • 隐式重参数化梯度

    提供了一种简单而高效的计算持续性随机变量低方差梯度的方法，称为重新参数化技巧，但它并不适用于许多重要的连续分布。 本文通过隐式微分介绍了一种计算重新参数化梯度的替代方法，并证明了其对 Gamma，Beta，Dirichlet 和 von Mises 分布具有更广泛的适用性，并且实验表明所提出的方法比现有的梯度估计方法更快，更准确。

    May, 2018

  • 连续分类：一种新颖的简单值指数族

    介绍了一个新的连续分类型分布 - continuous categorical，用于建模单纯值数据。与 Dirichlet 和其他典型选择不同，continuous categorical 产生一个行为良好的概率损失函数，产生无偏估计器，同时保留了 Dirichlet 的数学简单性，并在多方选举和神经网络压缩任务中超越其他标准选择。

    Feb, 2020

  • 类别数据的连续扩散

    本文介绍了 CDCD 框架，该框架是一种对分类数据进行扩散建模的方法，同时保持了连续时间和输入空间的特性，并在多个语言建模任务中证明了其有效性。

    Nov, 2022

  • 具有贝叶斯深度神经网络的分类快速预测不确定性

    本文提出了使用 Dirichlet 近似来构建分类神经网络输出的分布，该近似比先构建权重的 Gaussian 分布再进行采样来得更省时，同时有利于计算不确定性和大规模数据集的应用，例如 ImageNet。

    Mar, 2020