混合模型和隐马尔可夫模型的矩方法
利用半定规划抑噪,解决高斯混合模型中方法矩的不一致性等问题,建立在 Wasserstein 距离下新的矩比较定理,提出新的算法,解决方法矩估计常见的问题。
Jul, 2018
本研究提出了基于矩方法的统一框架 Polymom,通过将混合模型的矩表示成参数的多项式的混合形式,利用半定规划来解决广义矩问题的松弛,并将参数提取的想法与计算机代数相结合,从而推导出估计过程,并可以应用凸优化、计算机代数和矩理论的工具来研究统计估计问题。
Mar, 2016
本文提出了一种基于广义矩 (MOM) 的快速参数估计方法,可以在混合数据类型的 Dirichlet 潜变量模型中应用,该方法不需要潜变量的实例化,有效地解决了参数估计的计算和统计问题。
Mar, 2016
论文介绍了基于谱方法模型参数学习的强大工具,并提出了一种分层方法去解决模型错误建模的鲁棒性问题。我们用近似的联合对角化取代以前算法中使用的张量分解步骤,并在主题建模实验中表明,我们的方法在速度和模型质量方面优于以前的张量分解方法。
Oct, 2018
本论文提出了一种 Moment Estimation 的算法来训练规模大的 Implicit Generative Models,即 Method of Learned Moments (MoLM)。通过引入 Moment Network,以及使用渐近理论来确定 Moment Estimation 中需要优化的关键性质,MoLM 可以训练出高质量的神经图像生成模型。
Jun, 2018
本研究提供了一种计算效率高、统计一致的基于矩的混合高斯估计算法,通过简单的谱分解技术,无需额外的最小分离条件,在一般位置上获取成分均值的低阶观测矩,从而通过排除计算和信息理论方面的障碍以便混合模型的高效估计,当混合成分具有一般位置和球形协方差时,与独立成分分析相关的估计问题得到了一些联系。
Jun, 2012
本研究提出一个基于量子算法的 EM 算法版本,用于解决高维 Gaussian 混合模型拟合问题,相较于传统算法有更快的收敛速度和更高的精度,并且能够推广到指数族分布,提供同样的计算保障。
Aug, 2019
分析医疗时间序列数据具有挑战性,而多维度且具有不规则采样、噪声和缺失值的数据、违反可交换性的异质患者组以及可解释性和不确定性量化至关重要。本文提出了一种新颖的模型类别 —— 混合耦合隐马尔可夫模型(M-CHMM),并展示了它优雅地解决了这些挑战。通过提出基于(i)粒子滤波和(ii)分解近似的采样器算法,我们使模型学习成为可能。与现有推理方法相比,我们的算法具有计算可行性、改善混合度和似然估计的特点,似然估计对于学习混合模型是必要的。对具有挑战性的真实流行病学和半合成数据的实验证明了 M-CHMM 的优点:改善数据拟合,能够高效处理缺失和噪声测量,提高预测准确性,并能够识别数据中可解释的子集。
Nov, 2023
研究基于极大似然原理的迭代算法 —— 期望最大化算法(EM)在统计模型中的参数估计,发现其仅能保证收敛于似然函数的极值点而非最大值点,尤其针对包含两个高斯分布混合的模型进行具体分析,最终建立了 EM 算法的统计一致性。
Aug, 2016