- 使用变分推断学习最优滤波器
利用变分推断学习参数化分析映射，通过估计条件分布对于动态系统的滤波分布，在过滤线性和非线性动态系统中也适用。
- 可编程变分推理的概率编程
我们提出了一种基于组合程序转换的方法，用于支持概率编程语言中的变分推断，该方法能够灵活地处理多个关键问题，包括自动微分、密度累积、跟踪和无偏梯度估计策略。此外，相比于现有的支持变分推断的概率编程语言，我们的设计在用户定义的目标、梯度估计策略 - 参数超曲面的注入流
支持且高效的密度估计模型，基于正则流模型的参数曲面密度计算方法，应用于奥卡姆因子回归模型和变分推断方法。
- ELBO 之外：大规模变分方法采样评估
蒙特卡洛方法、变分推断及其组合在从难以处理的概率分布中取样方面发挥着重要作用。然而，现有研究缺乏统一的评估框架，依赖不同的性能度量和有限的方法比较，给进展的评估和从业者的决策带来了困难。为了应对这些挑战，我们的工作引入了一个基准，使用标准化 - 用变分推断训练的贝叶斯神经网络的中心极限定理
本文通过严密推导，针对贝叶斯两层神经网络在无穷宽度限制下采用变分推断方法进行回归任务训练，证明了它们的中心极限定理（CLT）。该研究比较了不同网络训练方案的波动行为，发现最小化变分推断方法在计算复杂度上具有更高效的优势。
- 变分流匹配用于图生成
我们提出了一种称为变分流匹配 (VFM) 的流匹配式变分推理，即基于这个公式我们开发了 CatFlow，这是一种用于分类数据的流匹配方法，它易于实现、计算效率高，并在图生成任务中取得了较好的结果。
- 深度神经网络的并发训练和层剪枝
我们提出了一种在神经网络早期训练阶段识别和消除不相关层的算法。与权重或滤波器层剪枝相比，层剪枝能够减少神经网络中更难并行计算的顺序计算。我们采用了一种结构，在非线性网络部分周围使用剩余连接，使非线性部分进行剪枝后仍然能够在网络中传递信息。我 - 贝叶斯神经网络中用于明确定义函数空间变分推断的正则化 KL 散度
Bayesian 神经网络以贝叶斯理念结合了神经网络的预测性能和对安全关键系统和决策制定至关重要的原则性不确定性建模。但是后验不确定性的估计取决于先验的选择，而在权重空间中找到信息量丰富的先验证明非常困难。为了解决这个问题，我们使用了一种基 - 变分推理，高斯混合模型，贝叶斯机器学习
通过优化固定协方差和常值权重的高斯混合模型，将变分推断（Variational Inference）视为最小化平滑相对熵，研究其在非高斯情况下的理论性质，包括梯度下降和粒子系统优化。
- 粒子物理中喷注重构的变分伪边缘方法
使用重构喷注、贝叶斯方法、序贯蒙特卡罗、变分推断和对撞机物理等关键词，介绍了一种用于推断喷注潜在结构的组合序贯蒙特卡罗方法，以及该方法使用估计器进行参数学习和提供全面贝叶斯处理的可变推理算法。通过使用按照碰撞机物理生成模型生成的数据进行实验 - 仅接收样本一次：快速、自纠正的随机变分推断
YOASOVI 是一种用于大规模贝叶斯层次模型的快速自校正随机优化变分推断 (Variational Inference) 的算法，通过使用每次迭代中用于随机变分推断的目标函数的可用信息，将常规 Monte Carlo 采样替换为接受采样， - ICML可微退火重要采样最小化初始分布与目标分布之间的 Jensen-Shannon 散度
DAIS 是一种可微分的持续退火重要性采样方法，它通过最小化初始和目标分布之间的对称 KL 散度来进行变分推断。通过实证评估其在合成和真实数据上作为变分分布的有用性，发现与标准 VI、重要性加权 VI 和马尔科夫分数爬升相比，它常常能提供更 - 通过姿势编码变分自动编码器实现多元化的手语表达
该研究解决了多样性感知手语生成问题，扩展了变分推断范式以包括姿势信息和属性条件，通过 UNet 架构的生成器框架和变分推断的视觉特征生成具有不同属性的手语图像，实验证明该模型在多样性、像素图像质量和姿势估计方面的表现优于现有基准模型，并忠实 - ASPIRE：基于迭代的摊销后验推理方法用于贝叶斯反问题
AMORTIZED 模式的后验推理的 ASPIRE 方法，基于物理和迭代重构的总结统计量，是一种计算高效且高保真度的方法。
- ICML变分薛定谔扩散模型
提出了变分薛定谔扩散模型 (VSDM)，利用变分推理线性化薛定谔桥前向评分函数，实现了无需模拟的训练过程，可用于优化传输计划中的扩散模型。VSDM 在模拟实验中表现出对非各向异性形状的高效生成能力，并产生了相较于单变量扩散更直线的样本轨迹。 - 贝叶斯神经网络的隐式生成先验
本文提出了一种新颖的神经自适应经验贝叶斯（NA-EB）框架，该框架结合了变分推断和梯度上升算法，以实现同步超参数选择和后验分布的近似，从而提高计算效率，并通过对各种任务的广泛评估展示了我们提出框架在预测准确性和不确定性量化方面的优越性。
- 通过正则化、置信度最小化和选择性推断校准贝叶斯学习
本研究介绍了一种基于变分推断的贝叶斯学习方法，通过集成校准、置信度最小化和选择性校准来增强人工智能模型的可靠性和决策效果。数值结果表明，相较于现有技术，该方法在识别内部数据、校准内部数据和校准外部数据方面取得了最佳结果，但同时需要拒绝部分输 - 在混乱问题的背景下，ELBO 梯度的解析逼近
本文提出一种用于逼近变分推断问题中 Evidence Lower Bound（ELBO）梯度的解析解，其中统计模型是由从一个高斯分布嵌入在无关干扰中得到的观测值构成的贝叶斯网络，该方法采用重新参数化技巧将梯度操作符移至期望内部，并依赖于似然 - 通过熵正则化扩展均场变分推断的理论与计算
我们提出了一种新的变分推断方法 $\Xi$- 变分推断 ($\Xi$-VI)，通过熵正则化扩展了朴素均值场。$\Xi$-VI 与熵最优输运问题密切相关，并从计算高效的 Sinkhorn 算法中受益。我们展示了 $\Xi$- 变分后验能够有效 - 快速统一的路径梯度估计方法用于正规化流
我们提出了一种快速路径梯度估计器，它显著提高了计算效率，并适用于所有实际相关的标准化流体结构。我们还证明了该估计器可以应用于最大似然训练，并且在几个自然科学应用中具有优越的性能和降低的方差。