关键词variational approximation
搜索结果 - 22
- 层次混合具有判别性的广义狄利克雷分类器
本文介绍了一种用于组合数据的判别分类器,该分类器基于广义狄利克雷的后验分布,这是广义狄利克雷混合模型的判别对应物。此外,我们根据专家混合范例,提出了一种层次混合分类器。为了学习模型的参数,我们使用变分逼近方法,通过推导广义狄利克雷混合的上界 - CVPR确定性多视角聚类的可微信息瓶颈
通过拟合互信息的规范化核格拉姆矩阵,我们提出了一种新的可微信息瓶颈方法 (DIB),通过确定性和解析的方式有效地进行多视角聚类,实现了输入变量从不同视角的确定性压缩。
- 神经扩散模型
传播模型是生成任务中表现出色的模型,然而大部分传播模型仅允许对数据分布进行线性变换,相比之下,更广泛的转换可能有助于更高效地训练生成分布并消除真实负对数似然和变分近似之间的差距。在本文中,我们介绍了神经传播模型 (NDMs),这是传统传播模 - 带有解释限制的学习
本文提出了一种基于解释性约束的学习框架,利用统计学习理论分析了这种解释如何提高模型的学习效果。首先定义了一种叫做 EPAC 模型的概念,其中这些约束在新数据的期望中成立,然后通过传统学习理论工具对这类模型进行了分析,并对一类梯度信息进行了限 - ICML通过干预主动学习连续时间贝叶斯网络
本文提出一种基于变分近似的实验设计新准则,用于从时域数据中学习连续时间贝叶斯网络 (CTBN) 的结构和参数,通过求解 CTBN 的 Master 方程取代对实验结果的采样以缓解高维度实验中的计算负担,并将模型扩展到条件 CTBN 以更好地 - 使用归一化流改进高斯过程
通过参数可逆变换,扩大了高斯过程先验的类别,得到了一种计算效率高,具有良好的推测表现的算法,并在多个数据集上进行了验证。
- ICMLCLUB: 对数比对比界限下的互信息
本文提出了一种新的对数比上界(CLUB)方法来估计和最小化高维空间中的互信息,并在此基础上引入了互信息最小化训练方案,并进一步通过负采样策略进行加速,仿真实验表明 CLUB 方法的可靠性,真实世界的互信息最小化实验,包括领域适应和信息瓶颈, - ACL关于词形变化系统的复杂性和类型学
我们量化不同语言形态系统的语言复杂度,揭示了屈折范式的大小和不规则程度之间的经验权衡,即一种语言的屈折范式可以是大小大,或高度不规则,但永远不会两者兼备。我们的方法体现了屈折范式的熵 - 即共同预测范式所有表面形式的难度。我们通过变分逼近估 - 可变推断中的 Alpha-Beta 散度
本文介绍了一种使用直接优化 “尺度不变的 Alpha-Beta 离散度”(sAB 离散度)的变分逼近框架,该新目标包含了大多数使用 Kullback-Leibler、Rényi 或 gamma 离散度的变分目标,还提供了以前在变分推理环境中 - ICML学习解释:模型解释的信息论视角
我们引入了实例级别特征选择作为模型解释的一种方法,基于学习一个函数来提取最具信息价值的特征集合,利用变分逼近互信息,最大化选择特征和响应变量之间的互信息,我们在各种合成和真实数据集上展示了方法的有效性,并使用定量度量和人类评估进行了验证。
- 是的,但它有效吗?:评估变分推理
该研究提出了两种诊断算法,分别是 Pareto-smoothed importance sampling (PSIS) 诊断和 variational simulation-based calibration (VSBC) 评估,用于评估变 - NIPS神经网络中的隐含权重不确定性
该论文介绍了 Bayes by Hypernet,一种新的变分逼近方法,通过将超网络视为隐式分布来解决现代神经网络在未见过的、嘈杂的或标记错误的数据上过于自信,并且不能产生有意义的不确定性度量的短板,本文在 MNIST 和 CIFAR5 任 - ICLR高效变分贝叶斯神经网络集合在异常检测中的应用
本研究使用贝叶斯神经网络设置中的后验变分逼近和梯度下降来获得神经网络集合以进行异常值检测,并证明其结果与其他有效的集成方法相当。
- 辅助深度生成模型
通过引入辅助变量(auxiliary variables),我们扩展了深度生成模型,用于提高变分近似方法,这让变分分布更有表现力,具有更快的收敛速度和更好的结果,从而实现了半监督学习的最先进性能,适用于 MNIST、SVHN 和 NORB - 可扩展贝叶斯推断模式
本文探讨了扩展贝叶斯推断的统一原则、模式和直觉,并回顾了使用现代计算资源进行可扩展推断的现有工作。从这些想法的分类中,我们表征了为设计可扩展推断过程证明成功的一般原则,并对前景进行了评论。
- 基于深高斯过程的逆强化学习
该论文提出了一种基于深度高斯过程模型的新逆向强化学习方法,可在少量演示情况下学习复杂的奖励结构,并通过最大熵学习框架与状态特征空间相链接。通过自行开发的非标准变分近似框架,可进行特征空间的近似贝叶斯处理,并防止过度拟合。在该模型中同时进行表 - 变分稀疏高斯过程 MCMC
本文研究了在数据量大、似然不为高斯分布和协方差函数参数后验估计方面如何高效地计算,提出了一种稀疏的变分近似方法和混合蒙特卡洛采样策略,实现了同时估计函数值和协方差参数。
- 一种用于时间演进双部分过程的协作卡尔曼滤波器
利用卡尔曼滤波器建立一种动态模型,以矩阵分解方法进行协同过滤和相关因式分解建模,通过建模每个低维潜在嵌入为多维布朗运动来解决时间演化问题,并采用几何布朗运动处理隐含参数漂移问题,同时还应用平均场变分近似对后验概率分布的复杂性提出了解决方法。 - 一种基于经验贝叶斯方法的非凸秩最小化算法
本文提出了一种基于变分近似的经验贝叶斯程序,用于低秩矩阵估计,与核范数不同的是,该方法保留了很多有用约束下与秩函数相同的全局最小点估计。该方法适用于广泛的低秩学习应用,特别是强健主成分分析问题(RPCA)。
- 图模型的同构群与抬升变分推断
本文通过引进群作用的概念,对指数族或图模型的自同构群进行形式化定义,提供了一个具有对称性特征的概率模型的精确数学框架,通过群作用将随机变量和特征函数的集合分成具有相同边际分布和期望的等价类(称为轨道),从而将推断问题有效地减少到计算每个等价