用于单通道应用的潜变量模型的光谱正则化框架
本文提出一种新的基于低秩线性回归和张量幂法的计算高效且具有保证一致性的鉴别性潜变量模型估计方法,该方法在混合线性回归模型中被验证其收敛性能优于局部优化 EM 算法。
Jun, 2013
本文介绍了使用核方法进行多视图潜变量模型学习的理论。方法利用复现核希尔伯特空间嵌入多视图潜变量的联合分布,并提出了一种有效的张量幂法来恢复潜变量参数。实验结果展示了该非参数模型在多个方面都优于现有光谱算法和 EM 算法。
Nov, 2013
此研究提出了一种贝叶斯非参数方法,用于信号分离,其中信号可以根据潜在变量而变化。我们的关键性贡献是将高斯过程潜变量模型(GPLVM)扩展为包括每个数据点由多个纯组分信号的加权和构成的情况,并且可以观察多个输入位置。我们的框架允许使用各种关于每个观测的权重的先验知识。这种灵活性使我们能够表示多种用例,包括估计分数构成的加权和为一约束条件和用于分类的二值权重。我们的贡献特别适用于光谱学,其中不同的条件可能导致基础纯组分信号从样本到样本变化。为了证明其在光谱学和其他领域的适用性,我们考虑了几个应用:具有不同温度的近红外光谱数据集,用于识别管道流动配置的模拟数据集,以及通过反射确定岩石类型的数据集。
Feb, 2024
该研究考虑了多元线性树模型的结构学习问题,引入了一种基于谱递归分组算法的底层向上过程以从观察到的变量的独立样本中恢复树结构,并给出了确切恢复树结构的有限样本大小界限,这些界限基于潜在联合分布的统计和结构属性,并且样本复杂度保证不依赖于观察变量维度,因此适用于许多高维设置。
Jul, 2011
本文通过理论分析证明了投影方差对模型崩溃的影响,并通过集成频谱混合核和可微分的随机傅里叶特征核逼近解决了内核灵活性不足导致的模型崩溃问题。提出的 GPLVM 模型在各种数据集上都取得了优异的表现,在信息丰富的潜在表示和缺失数据插补方面超越了各种竞争模型,包括最先进的变分自编码器和 GPLVM 变体。
Apr, 2024
本文提出了一种基于采样的变分分布表示方法,用于自然语言生成中 deep latent variable models,并通过最大化互信息的正则化来解决 posterior collapse 问题,进一步发展了 VAE,并在多个文本生成场景中证明了其有效性和通用性。
Aug, 2019
本文介绍了一种基于 Chomsky 层次的直观简洁性概念,利用 Hankel 矩阵的跟踪范数作为频谱正则化器的高级模型,并提出了一种偏袒随机估计器以应对 Hankel 矩阵是双无限的事实,最终证明了频谱正则化在 Tomita 语法上的潜在优势以及提议的随机估计器的有效性。
Nov, 2022
本文提出了一种贝叶斯方法,通过非标准变分推理框架在 GP-LVM 中近似积分出潜在变量,从而通过最大化解析较低下界的确切边缘似然来训练 GP-LVM,在学习非线性动态系统方面具有鲁棒性和自动选择非线性潜在空间维数的能力。
Sep, 2014
提出一种新的方法,用于一般化贝叶斯非线性潜在变量建模,通过使用随机傅里叶特征来逼近高斯过程映射中的核函数,从而将 GPLVM 推广至泊松、负二项和多项分布等情况,并通过随机特征潜变量模型(RFLVM)对广泛的应用进行评估,结果表明该算法在复杂数据集的潜在结构和数据填充方面表现出着与现有先进算法相当的实用性。
Jun, 2023