- 噪声 SVGD 在人口极限外的长时间渐近行为
Stein 变分梯度下降 (SVGD) 是一种广泛应用于机器学习领域的采样算法,通过迭代地移动一组相互作用的粒子 (代表样本) 来逼近目标分布,我们研究了噪声 SVGD 的长期渐进行为,并证明其极限集是良定义的,且该极限集随着粒子数目的增加 - ICML基于拐门 $l_p$ 杠杆得分抽样的应用
基于转门数据流的采样算法应用于 coresets 的子采样构造与 logistic 回归问题,实现多项式草图 / 子样本大小,优于以前的工作
- 高效分数匹配学习通用的高斯混合模型
我们研究了学习混合高斯问题,通过扩大已有的扩散模型方法,提出了一种令人满意的采样算法。
- 深度强化学习的快速价值追踪
我们的研究利用卡尔曼滤波范式引入了一种称为 Langevinized Kalman Temporal-Difference (LKTD) 的新颖且可扩展的采样算法,用于深度强化学习。通过 LKTD 算法,我们有效地从深度神经网络参数的后验分 - 离散扩散模型的快速采样通过去随机化
通过提出一种新颖的去随机扩散过程,我们加速了离散扩散模型的算法;我们还引入了一种连续时间采样算法,能够比有限步长的离散时间采样算法提供更好的样本质量。大量实验表明,在自然语言生成和机器翻译任务中,我们的方法在离散扩散模型的生成速度和样本质量 - 基于扩散的生成模型及其误差界:全收敛估计下的对数凹情况
我们以具有未知均值的高斯分布的抽样为动机示例,通过扩散生成模型提供了在强对数凹数据分布假设下的收敛性行为的全面理论保证。我们的评估函数类使用的逼近是利普希茨连续函数,同时通过与相应的抽样估计相结合,对于与数据分布之间的 Wasserstei - 通过量化和概率质量函数概念从自编码器的潜空间采样
通过概率质量函数的概念,结合量化处理,我们引入了一种新颖的后训练采样算法,该算法可以从生成模型的潜在空间中取样,使得重建的样本更接近真实图像。我们的方法在速度上大大提高了运行效率,性能优于基于高斯混合模型的采样技术,并在一系列模型和数据集上 - 对称加权一阶模型采样的提升算法
证明了一种高效的采样算法,解决了带有计数量词的一阶逻辑的两个变量片段的权重模型采样在多项式时间内可行的问题。
- 深度神经网络的采样权重
我们引入了一种概率分布和高效的采样算法来处理神经网络中的权重和偏差参数,通过玩具模型和实际数据集的实验,证明了我们构造的采样网络是普适逼近器,并且采样框架对于输入数据的缩放和旋转是不变的,这意味着许多流行的预处理技术不再需要。
- 通过潜空间能量建模与逐步分布转移的分子设计
本文提出了一种生成模型,基于能量模型(EBM)和分子生成模型、性质回归模型生成具有期望化学和生物性质的体小分子,并引入了逐步分布转移采样算法(SGDS),从而在训练的分子数据和性质的基础上,逐步将模型分布转移到具有期望性质的分子区域,取得了 - 混合概率逻辑编程:推理和学习
本文研究了概率逻辑编程,扩展了支持离散和连续随机变量,并引入了新的采样算法和混合模型,解决了从带有缺失值和概率背景知识的关系数据中学习 PLP 的问题。
- 一个多线性采样算法用于估计 Shapley 值
本论文提出了一种基于多线性扩展技术的新采样方法来估计 Shapley 值,可用于任何机器学习模型,特别是多类分类或回归问题。通过对两个数据集的实验,我们证明了该方法通过减少采样统计变量的方差来提供更准确的 Shapley 值估计。
- 无需查看所有项,从 $k$-DPP 中进行抽样
本论文提出了一种自适应算法用于在大型数据集中编织小型数据集,从而提高 $k$-DPP 采样算法的性能,并确保所生成的样本集合与原始数据集的目标分布相一致。
- ICML基于预测自回归模型的预测采样
本论文提出了一种预测采样算法,利用 ARMs 的快速推断能力加速采样,证明其在二元 MNIST 等设置下可显著提高推断调用次数和采样速度。
- AAAI考虑深度生成神经网络生成边界的高效探索采样
本文提出一种通过生成边界和探测内部模型机制的探索性采样算法,可以更加高效地从已有模型中获取具有相同属性的样本,并在内部层次上分析 DGNN 的生成机制。相比以 ε 为基础的采样方法,本算法也能更好地找到更具代表性的样本。
- AAAI稠密点云补全的变形采样网络
本文提出了一种新的方法,通过两个阶段,利用参数化表面元素和采样算法预测粗粒度点云并与输入点云合并来完成部分点云。实验结果表明,该方法在 Earth Mover's Distance(EMD)和 Chamfer Distance(CD)等方面 - 具有亚线性时间预处理的确定性点过程的精确采样
研究了确定性点过程的复杂性,提出了一个新的采样算法,其中预处理成本为 n*poly (k),采样成本为 poly (k)。
- 自适应 MCMC 框架针对多峰分布的目标
提出了一种基于蒙特卡罗方法的采样技术,使用辅助变量设计了自适应方案来实现多模态分布下的本地移动和跳跃移动,并证明了算法的遍历性。
- 组合型纯探索的近最优采样算法
本文研究了随机多臂老虎机的组合纯探索问题,提出了一种新的样本复杂度的下界和一种新的抽样算法,并用于凸优化的分离与优化等价和近似 Pareto 曲线等技术改进了多个普遍应用的组合约束条件的纯探索问题的已有方法。此外,我们还提出了更通用的问题, - Stein 变分梯度下降作为梯度流
本文针对 Stein 变分梯度下降算法(SVGD)开展了首次理论分析,讨论了其弱收敛性质及通过 Stein 算子引出的新度量结构下的 KL 散度功能梯度流等渐近特性,同时应用弱导数等概念提供了一系列 Stein 算子和 Stein 不等式的