- 一个使用全局字符层级和本地子单位级特征的印地语在线手写字符识别分类器
开发了一个分类器,用于模拟印地语在线手写字符的全局字符特征、子单位数量和本地子单位特征的联合分布。该分类器使用潜变量来模拟子单位的结构,使用点、方向和方向动态的直方图(HPOD)特征表示字符的全局字符级和本地子单位级,并且不依赖于字符的笔画 - 带参数化图分布的图神经网络
通过使用潜变量来参数化和生成多个图形,该研究采用期望最大化(EM)框架基于多个图形获得网络参数的极大似然估计,在涉及不确定性的图形中取得了较基准模型更好的性能改进,如异构图形上的节点分类和化学数据集上的图形回归任务。
- 非线性降维昔日与今日:机器学习时代耗散偏微分方程目标
通过纯数据驱动的工作流程,构建了一套用于分布式动力系统的简化模型(ROMs);所采用的 ROMs 是由近似惯性流形(AIMs)理论启发,并以此为模板;应用机器学习工具可以避免需要准确的截断 Galerkin 投影和推导闭合修正的需求;并探讨 - 瓶颈模型中的跨模式概念化
通过跨模态学习方法,我们在训练中使用文本描述来指导概念的引入,以产生可解释的概念,提高模型的健壮性。
- EMNLPRegaVAE:一种用于语言建模的检索增强高斯混合变分自编码器
检索增强语言模型通过引入隐变量聚合检索信息解决了过时信息和虚构问题,并以 RegaVAE 作为一个例子,展示了在文本生成质量和幻觉去除方面的显著改进。
- 使用联合潜在空间能量先验学习层次特征
本文研究多层生成模型在学习分层表示中的基本问题,并提出了一种联合潜在空间的基于能量的模型,通过多层潜在变量实现了有效的分层表示学习,并对数据分布建模。
- 专家模型的可辨别性
对于具有二元潜在变量层和在已知潜在变量条件下独立同分布的二元可观测层的 Product of Experts 模型的可辨识性进行研究,证明当潜在变量均匀分布时,模型可通过与参数数量相等的可观测量来辨识,并且在更一般的任意分布情况下,模型的可 - 推理推断
通过结合神经计算的规范和算法理论,我们提出了一种从大规模神经活动模式中推断规范分布计算的数学框架,以发现神经录制中的可解释结构。
- 适用于逆问题的激发调整潜在扩散模型
我们提出了一种使用文本到图像潜在扩散模型作为通用先验来解决图像逆问题的新方法。我们引入了一种 prompt 调整方法,通过在运行反向扩散过程时动态优化文本嵌入,使得我们能够生成更符合扩散先验的图像。此外,我们提出了一种投影方法,以保持潜在变 - 重新参数化的变分拒绝抽样
传统的变分推理方法依赖于变分分布的参数族,而变分分布的选择对后验概率近似的准确性起着关键作用。本文提出了一种基于 Variational Rejection Sampling (VRS) 的新策略,通过引入低方差的重新参数化梯度估计器,将 - 适用于顺序保持序列建模的变分连接主义时间分类
将序列模型 CTC 与变分模型相结合,导出两个可用于训练保持顺序、更具普适性的序列模型的损失函数,实现直接优化模型对数似然的变分下界。
- 学习生成集总水文模型
本研究提出了一种基于数据驱动的方法,可以用少量的潜在变量来表示集水区的水文功能,并从这些表示中重建特定的水文功能。
- 层次数据的潜在变量多输出高斯过程
该研究论文提出了一个扩展多输出高斯过程(MOGPs)用于分层数据集的方法,通过定义适合层次结构的核函数来捕捉不同层次的相关性,并通过引入潜在变量表达输出之间的潜在依赖关系,以提高可扩展性。通过合成数据和基因组学以及动作捕捉的真实世界数据进行 - 因果结构学习中的非线性、反馈与一致性
寻找自动化搜索方法,从观察数据中学习因果结构;讨论潜变量和观察变量之间的因果联系以及它们之间的潜在模式和结构;提出了不同于高斯分布条件的 k - 三角性忠诚度的另一定义,可用于非高斯分布;轻松学习具有潜变量的因果结构的充分性假设。
- 用于估计具有潜变量的因果结构的广义独立噪声条件
我们研究了在存在潜在变量的条件下学习因果结构的复杂任务,包括定位潜在变量和确定它们的数量,以及确定潜在和观察变量之间的因果关系。我们提出了一种用于线性非高斯非循环因果模型(包括潜在变量)的广义独立噪声(GIN)条件,该条件确定了某些测量变量 - 摊还变分推断:何时和为何?
Amortized variational inference (A-VI) is a general alternative to factorized (or mean-field) variational inference (F-V - 软干预下因果解缠识别保证
本论文提出了一种基于潜在变量和因果模型的预测建模方法,以预测基因组学中联合扰动效应,并证明了该模型在无限数据极限下可以恢复潜在因果模型。
- 一种用于非监督表示学习的因果排序先验
利用加性噪声模型实现无监督表示学习,并通过潜在分布的 Hessian 构建损失函数以鼓励潜在空间遵循因果排序。
- 矩阵张量积模型的近似消息传递算法
提出并分析一种近似信息传递 (AMP) 算法,用于矩阵张量乘积模型,其中使用一种新方法在每次迭代中优化加权和组合多个估计;利用非可分函数的 AMP 收敛定理,证明了非可分函数的状态演变,提供了其在高维极限下性能的渐近精确描述。
- 利用任务结构改善神经网络表示的可识别性
本论文通过考虑任务分布的影响,扩展了监督学习中可辨识性的理论。研究表明,即使在回归情况下,可辨识性也是可以实现的。当任务具有因果结构时,我们的方法可以通过最大边缘似然优化实现下游应用于因果表征学习,并且通过实验证实了我们的模型在恢复合成和真