ICMLApr, 2013

ClusterCluster：针对狄利克雷过程混合模型的并行马尔科夫链蒙特卡罗算法

PDF
TL;DR本文介绍一种新型的 DP 重新参数化方法，该方法在聚类分析中广泛使用，能够实现 DP 的并行学习，从而提高了学习速度和效率，同时该方法不需要改变模型并且能够保持标准后验分布不变。
dirichlet processbayesian nonparametric modelingmcmc inference methodsmarkov chainparallelization
发现论文，激发创造
  • Dirichlet 过程混合模型的快速搜索

    本文研究了用于密度估计的柏努利处理（DP）混合模型的计算问题，并提出了一种可用于大数据集的搜素算法。

    Jul, 2009

  • 面向分布式数据的狄利克雷过程混合模型可伸缩估计

    在分布式环境中，通过提出一种新的估计方法，允许本地节点创建新元素并通过概率一致性方案合并相应聚类的组件，同时保持估计的一致性，此法可在分布式和异步环境中实现高可扩展性。

    Sep, 2017

  • 适应性低复杂度序列推理用于 Dirichlet 过程混合模型

    提出一种适用于在线聚类和参数估计的低复杂度的序列推理过程，通过更新超参数并使用共轭先验假设，提出了易于计算的条件似然函数的闭形式参数化表达式和 Dirichlet 过程的自适应低复杂度设计。实验结果表明该方法优于其他在线最先进的方法。

    Sep, 2014

  • 分布式多项式混合模型的收缩吉布斯采样器在联邦学习中的应用

    通过使用合适的统计量，本文提出了一种新的 DPMM（Dirichlet Process Mixture Models）的分布式马尔科夫链蒙特卡罗（MCMC）推理方法（DisCGS）。该方法使用了折叠的吉布斯采样器，并且特别设计用于在独立异构的机器间处理分布式数据，使其在横向联合学习中具备应用能力。我们的方法取得了非常有前景的结果和显著的可扩展性。例如，对于包含 10 万个数据点的数据集，集中式算法需要大约 12 小时完成 100 次迭代，而我们的方法仅需 3 分钟完成相同的迭代次数，将执行时间缩短了 200 倍，同时不影响聚类性能。

    Dec, 2023

  • 一种针对层级狄利克雷过程的分裂 - 合并 MCMC 算法

    该研究介绍了一种针对文档群集的 Hierarchical Dirichlet process (HDP) 模型，描述了一种新的 split-merge MCMC 采样算法用于后验推断，这种算法可以显著改善传统的 Gibbs 采样，并且给出了一些因数据属性而导致的改进理解。

    Jan, 2012

  • 基于狄利克雷过程混合的相关性渐近动态聚类

    提出了一种基于依赖狄利克雷过程混合模型（DDPMM）的新的聚类算法，用于聚类包含未知数量的进化聚类的批量连续数据。该算法通过对 DDPMM 的 Gibbs 抽样算法进行低方差渐近分析而得出，提供类似于 k-means 算法的收敛保证的硬聚类。通过移动高斯聚类的合成测试和真实的 ADS-B 飞机轨迹数据测试的实证结果表明，与当代概率和硬聚类算法相比，该算法在提供更高准确性的同时需要更少的计算时间。

    May, 2013

  • 泊松 - 狄利克雷过程的贝叶斯视角

    本文介绍了 Poisson-Dirichlet 过程及其在 Bayesian 建模中的应用，包括构建离散问题的先验、后验和计算技巧，还介绍了分割、共轭、分形和聚类等特性。

    Jul, 2010

  • 针对狄利克雷过程分层模型的追溯马尔可夫链蒙特卡罗方法

    本文介绍了两种新的马尔可夫链蒙特卡罗算法，使用回溯抽样方法，可以避免有限近似，从而精确地从兴趣量的后验分布中进行抽样，同时比较了边缘和条件方法，并包括了模拟研究。

    Oct, 2007

  • 无截断的 DPMM 混合推理

    本文提出了一种基于抽样 MCMC 和变分方法的截断无关的 DPMM 混合模型推断方法，旨在提高 DPMM 变分更新的效率并仅在必要时增加模型复杂度，且在单成员模型和混合成员模型中均表现良好。

    Jan, 2017

  • 先验组件数量的混合模型

    使用 Dirichlet 过程混合（DPM）模型可用于推断基因表达数据，同时也可以直接应用于混合的有限混合模型（MFM）中，具有类似的数学性质。

    Feb, 2015