- ICML无监督神经组合优化的扩散模型框架
通过引入一种可以上界反向 Kullback-Leibler 散度且避免要求确切样本似然的损失函数,本研究提出了一种能够解决在不依赖相应训练数据的情况下从难以处理的离散集合中进行采样的问题的方法,并展示了该方法在无数据组合优化中实现了最先进的 - 当预测能够解释:少样本预测来选择更好的神经潜变量
通过分析常用的 ' 共平滑 ' 预测框架的局限性,并提出一种改进的少样本预测方法,我们利用隐马尔可夫模型的学生 - 教师设置展示高共平滑模型空间在其潜在表示中可以包含任意外部动态,并引入次要度量 - 共平滑的少样本版本来解决这个问题。结果表 - 指数族潜变量模型中精确推理与学习的统一理论
该论文研究了概率图模型中精确实现推断和学习的条件,并开发出相应的算法,通过展示各种示例模型的应用,最终展示了如何将这些模型组合成可处理的概率图模型。
- 粒子梯度下降的误差界和对数 - 索伯列夫和塔拉格兰不等式的推广
非渐近误差界限
- 理解鹈鹕汤框架中的上下文学习
通过引入「Pelican Soup Framework」理论框架,该研究分析了现有的文本处理中基于潜变量模型的理论分析与实践间的差距,并提出了通用形式的自然语言分类任务、共识知识库以及意义关联等概念来解释上下文学习过程中的损失界限和任务泛化 - 多批评家技能学习
我们提出了 SLIM,一种多批评家学习方法,它通过在演员 - 评论家框架中优雅地结合多个奖励函数,显著提高了机器人操作的潜在变量技能发现,克服了可能干扰收敛到有用技能的奖励之间的干扰,并展示了在桌面操作中,我们方法在获得安全高效的运动基元方 - 双 InfoGAN 用于对比分析
对比分析(CA)是发现目标领域与背景领域之间的共性和差异的研究,本文介绍了基于 GAN 和 InfoGAN 的 Double InfoGAN 方法,通过高质量的图像生成和信息分离,提升了 CA 的潜在分离能力和图像质量。
- 扩散变分推断:扩散模型作为表达丰富的变分先验
我们提出了去噪扩散变分推断(DDVI)算法,它是一种基于扩散模型作为表达性变分后验的潜变量模型的近似推断算法。我们的方法通过辅助潜变量来增强变分后验,从而得到一类表达性模型,通过反转用户指定的噪声过程在潜变量空间中进行扩散。通过优化受 wa - 动量粒子极大似然
最大似然估计(MLE)的潜变量模型常常被重新设定为参数和概率分布的扩展空间上的优化问题。我们提出了一个受动力系统启发的方法,结合了 Nesterov 的加速梯度法、欠阻尼朗之万方程和粒子方法,使得该算法在连续时间中收敛到函数的唯一最小值。通 - 基于 $χ^2$ 散度的变分重要采样
通过最小化前向 χ^2 散度来优化建议分布以增强对数似然估计,我们引入了一种称为变分重要性抽样(VIS)的新方法,实现了直接估计和最大化对数似然。将 VIS 应用于各种流行的潜变量模型,包括混合模型、变分自编码器和部分可观测广义线性模型,结 - 用于单通道应用的潜变量模型的光谱正则化框架
通过添加新的谱规范化术语解决了数据汉克化预处理步骤中源重复问题,提供了一个谱规范化的线性潜变量模型优化框架,并适用于单通道时序应用。
- 神经与行为数据的多模态高斯过程变分自编码器
我们提出了一种无监督的潜在变量模型,可以从不同的实验数据模态中提取演化的共享和独立的潜变量,通过结合高斯过程因子分析和高斯过程变分自编码器的方法,我们在傅里叶域中参数化模型的潜变量,并在两个真实的多模态实验设置上验证了模型的有效性。
- Delta-AI:稀疏图模型中的摊销推理的局部目标
通过稀疏概率图模型中的摊销推理算法,我们能够基于策略学习对象的局部属性生成适用于脱机训练的局部损失,从而有效地提取感兴趣的边缘和条件分布,并对稀疏因子结构的潜变量模型进行训练。
- 使用置换不变编码器和更紧的变分界限学习多模态生成模型
通过多模态数据,在机器学习研究中设计深度潜变量模型一直是一个长期的主题。本文考虑了一种可以严密下界数据对数似然的变分约束,同时发展了更灵活的聚合方案,通过组合不同模态的编码特征与置换不变神经网络。数值实验表明了多模态变分约束和各种聚合方案之 - 变分点编码变形用于牙齿建模
数字牙科学在近年取得了重要进展,然而仍有许多待解决的挑战。本研究发布了一个新的牙齿网格数据集,以促进进一步的研究。此外,我们提出了变分 FoldingNet (VF-Net),它扩展了 FoldingNet 以实现对点云表示的概率学习。现有 - ICML张量分解遇见控制理论:学习线性动力系统的通用混合
文章提出了一种新的基于张量分解的方法用于学习混合线性动态系统,在不需要分离条件的情况下,可以与 Bayes 最优分簇竞争,在具有挑战性的部分观测情况下工作。
- 马尔科夫转换模型的可辨识性
本文研究了 Markov Switching Models 的可识别性,探讨了其在序列潜变量模型中的应用,并给出了基于非线性高斯的转移分布参数化方法,实验结果表明此方法可用于因果发现和高维时间序列分割。
- CoinEM:基于粒子的变分推断无需调参的潜变量模型
介绍了两种用于通过边缘最大似然估计学习潜变量模型的新的基于粒子的算法,其中包括一种完全免调范的算法。我们的方法基于作为优化问题的边缘最大似然估计的视角:即作为自由能泛函的最小化。我们验证了我们算法在广泛的数值试验中的性能,包括几个高维设置。
- ICLR实时变分学习神经轨迹及其动力学
本研究介绍了一种指数家族变分卡尔曼滤波器,该在线递归贝叶斯方法针对任意似然函数进行推断,利用常数基础测量指数家族对潜在状态随机性进行建模,以推断潜在轨迹并同时学习生成它们的动态系统。
- 使用截断数据学习混合高斯模型
该研究致力于解决学习具有截尾数据混合高斯模型的问题,提出了一种能够使用很少样本就可以精确估计权重和均值的算法。