Aug, 2013

Pitman-Yor 过程混合模型中组成数量的不一致性

PDF
TL;DR本文研究了有限混合模型的贝叶斯密度估计与数目成分推断中，使用狄利克雷过程混合模型（DPMs）和 Pitman-Yor 过程混合模型（PYMs）等非参数混合模型的后验分布并不一致，特别适用于大多数分布族，包括离散族以及满足柔性正则条件的连续指数族（如多元高斯分布）。
finite mixturedirichlet process mixturespitman-yor process mixturesbayesian density estimationnonparametric mixtures
发现论文，激发创造
  • Dirichlet 过程混合模型中组件数量的不一致性：简单例子

    本文研究使用 Dirichlet 过程混合模型（DPMs）对数据进行密度估计以及对组件数量进行推断的方法。然而，作者证明了使用后验分布得到的组件数量并不收敛于真实数量。通过一个简单的实例分析表明这种方法具有严格的不一致性，而且后验概率趋向于 0，而不是真实数量的 1。

    Jan, 2013

  • 先验组件数量的混合模型

    使用 Dirichlet 过程混合（DPM）模型可用于推断基因表达数据，同时也可以直接应用于混合的有限混合模型（MFM）中，具有类似的数学性质。

    Feb, 2015

  • 时间变异狄利克雷过程混合的广义 Polya 小球模型

    本文介绍了一种基于广义 Polya 弹珠模型的时间变化 Dirichlet 过程混合模型，并通过马尔科夫链蒙特卡罗和顺序蒙特卡罗方法进行推断，以此解决了在数据分布随时间变化的情况下使用传统 DPMs 模型不准确的问题。作者在多个应用中验证了该模型。

    Jun, 2012

  • 面向分布式数据的狄利克雷过程混合模型可伸缩估计

    在分布式环境中，通过提出一种新的估计方法，允许本地节点创建新元素并通过概率一致性方案合并相应聚类的组件，同时保持估计的一致性，此法可在分布式和异步环境中实现高可扩展性。

    Sep, 2017

  • Dirichlet 过程混合模型的快速搜索

    本文研究了用于密度估计的柏努利处理（DP）混合模型的计算问题，并提出了一种可用于大数据集的搜素算法。

    Jul, 2009

  • 可数离散分布的贝叶斯熵估计

    本文讨论了如何用 Dirichlet 和 Pitman-Yor process prior 对 Shannon 熵 $H$ 进行 Bayesian 估计，同时提出 Pitman-Yor Mixture (PYM) entropy estimator，适用于大多数分布类型。

    Feb, 2013

  • 一种非参数贝叶斯聚类的新型先验过程

    研究 Bayesian 聚类中先验分布的作用和 Dirichlet、Pitman-Yor 等常用先验分布的预测概率，探索了非参数化 Bayesian 聚类中的另一种先验分布 —— uniform process 的优点和缺陷，并在真实文档聚类任务中进行性能比较。

    Jan, 2008

  • 使用 Dirichlet 过程混合模型的非线性模型

    我们介绍了一种新的非线性分类模型，使用狄利克雷过程混合对反应变量 y 和协变量 x 的联合分布进行非参数建模，并在混合成分内保持 y 和 x 之间的关系线性。如果混合物包含多个成分，则总体关系变成非线性。我们使用模拟数据来比较这种新方法与简单的多项式逻辑模型 (MNL)、带有二次项的 MNL 模型和决策树模型的性能，并在蛋白折叠分类问题上评估我们的方法，发现我们的模型相对于基于神经网络 (NN) 和支持向量机 (SVM) 的先前方法具有实质性改进。蛋白质折叠类别具有分层结构。我们将我们的方法扩展到分类问题，其中有一个类别分层结构。我们发现，使用关于蛋白折叠分层结构的先前信息可以提高预测准确性。

    Mar, 2007

  • 通过增强的中国餐馆过程减少过度聚类

    本研究提出一种 “Powered Chinese Restaurant Process” 来防止过度聚类，减少数据的存储成本和沟通成本。

    Feb, 2018

  • 无截断的 DPMM 混合推理

    本文提出了一种基于抽样 MCMC 和变分方法的截断无关的 DPMM 混合模型推断方法，旨在提高 DPMM 变分更新的效率并仅在必要时增加模型复杂度，且在单成员模型和混合成员模型中均表现良好。

    Jan, 2017