NIPSMar, 2016

通过多项式混合法估算混合模型

PDF
TL;DR本研究提出了基于矩方法的统一框架 Polymom，通过将混合模型的矩表示成参数的多项式的混合形式，利用半定规划来解决广义矩问题的松弛，并将参数提取的想法与计算机代数相结合，从而推导出估计过程，并可以应用凸优化、计算机代数和矩理论的工具来研究统计估计问题。
mixture modelingexpectation maximization algorithmmethod of momentspolymomstatistical estimation
发现论文，激发创造
  • 混合模型和隐马尔可夫模型的矩方法

    本文提出了一种有效方法来估计高维的混合模型的参数以及应对 EM 算法的失败问题，该方法基于矩估计法来进行无监督学习从而实现了之前未能达到的混合模型严格的无监督学习结果。

    Mar, 2012

  • 高斯混合模型的最优估计：去噪矩方法

    利用半定规划抑噪，解决高斯混合模型中方法矩的不一致性等问题，建立在 Wasserstein 距离下新的矩比较定理，提出新的算法，解决方法矩估计常见的问题。

    Jul, 2018

  • 分布族的多项式学习

    本文解决了高维度任意固定数目成分的高斯混合分布在多项式学习方面存在问题的问题，提供了降维方法来将学习高维混合分布降至低维学习问题，并利用实代数几何学工具提供了多项式族分布的学习方法。

    Apr, 2010

  • 使用学习的矩方法学习隐式生成模型

    本论文提出了一种 Moment Estimation 的算法来训练规模大的 Implicit Generative Models，即 Method of Learned Moments (MoLM)。通过引入 Moment Network，以及使用渐近理论来确定 Moment Estimation 中需要优化的关键性质，MoLM 可以训练出高质量的神经图像生成模型。

    Jun, 2018

  • 高斯混合模型的量子期望最大化

    本研究提出一个基于量子算法的 EM 算法版本，用于解决高维 Gaussian 混合模型拟合问题，相较于传统算法有更快的收敛速度和更高的精度，并且能够推广到指数族分布，提供同样的计算保障。

    Aug, 2019

  • 一种矩匹配约束的方法及其在半监督学习中的应用

    通过引入基于矩的新型嵌入约束，以及使用具有联合分布的最终层的 Axis-Aligned Gaussian Mixture Model (AAGMM) 层来解决 softmax 网络中的异常值敏感性问题，并在半监督图像分类领域实现与 FlexMatch 准确性匹配的结果。

    Apr, 2024

  • 高效学习 Mallows 模型混合

    提出了第一个多项式时间算法来确定具有任意常数个分量的 Mallows 模型的学习参数。同时，通过分析和限制，研究了学习混合 Mallows 模型的复杂性，并展开对改进组成数量依赖性的探索。

    Aug, 2018

  • 学习球形高斯混合模型：矩方法与谱分解

    本研究提供了一种计算效率高、统计一致的基于矩的混合高斯估计算法，通过简单的谱分解技术，无需额外的最小分离条件，在一般位置上获取成分均值的低阶观测矩，从而通过排除计算和信息理论方面的障碍以便混合模型的高效估计，当混合成分具有一般位置和球形协方差时，与独立成分分析相关的估计问题得到了一些联系。

    Jun, 2012

  • 关于多项式混沌展开的分数矩估计

    本文提出了一种新颖的方法，通过多项式混沌展开直接从确定性 PCE 系数估计任意分数矩，应用于不确定性量化的各种任务，包括概率分布估计。在三个逐渐复杂的数值示例中，所得到的结果表明，与所呈现的标准拉丁超立方抽样相比，所提出的方法在估计响应分布方面具有卓越的性能。

    Mar, 2024

  • 用期望极大化算法估计两个线性回归混合模型的系数

    本文介绍了用期望最大化 (EM) 算法估计两个线性回归混合模型系数的收敛性，根据实验结果，我们发现算法需要在无限圆锥内开始初始化。同时发现，如果初始猜测与目标参数向量的余弦角足够大，则 EM 算法的样本分割版本可以高概率地收敛到真实系数向量。

    Apr, 2017