NIPSMay, 2013

基于狄利克雷过程混合的相关性渐近动态聚类

PDF
TL;DR提出了一种基于依赖狄利克雷过程混合模型（DDPMM）的新的聚类算法，用于聚类包含未知数量的进化聚类的批量连续数据。该算法通过对 DDPMM 的 Gibbs 抽样算法进行低方差渐近分析而得出，提供类似于 k-means 算法的收敛保证的硬聚类。通过移动高斯聚类的合成测试和真实的 ADS-B 飞机轨迹数据测试的实证结果表明，与当代概率和硬聚类算法相比，该算法在提供更高准确性的同时需要更少的计算时间。
发现论文，激发创造
  • 面向分布式数据的狄利克雷过程混合模型可伸缩估计

    在分布式环境中，通过提出一种新的估计方法，允许本地节点创建新元素并通过概率一致性方案合并相应聚类的组件，同时保持估计的一致性，此法可在分布式和异步环境中实现高可扩展性。

    Sep, 2017

  • 适应性低复杂度序列推理用于 Dirichlet 过程混合模型

    提出一种适用于在线聚类和参数估计的低复杂度的序列推理过程，通过更新超参数并使用共轭先验假设，提出了易于计算的条件似然函数的闭形式参数化表达式和 Dirichlet 过程的自适应低复杂度设计。实验结果表明该方法优于其他在线最先进的方法。

    Sep, 2014

  • ClusterCluster：针对狄利克雷过程混合模型的并行马尔科夫链蒙特卡罗算法

    本文介绍一种新型的 DP 重新参数化方法，该方法在聚类分析中广泛使用，能够实现 DP 的并行学习，从而提高了学习速度和效率，同时该方法不需要改变模型并且能够保持标准后验分布不变。

    Apr, 2013

  • 基于张量狄利克雷过程多项式混合模型的乘客轨迹聚类

    提出了一种基于张量的单步聚类方法，使用 Dirichlet 过程动态决定乘客的聚类情况并考虑了空间语义图，使用 “解散和转移” 方法避免聚类数目的失控，实证分析说明了该方法具有高效性和可靠性。

    Jun, 2023

  • Dirichlet 过程混合模型的快速搜索

    本文研究了用于密度估计的柏努利处理（DP）混合模型的计算问题，并提出了一种可用于大数据集的搜素算法。

    Jul, 2009

  • MAD-Bayes: 基于 MAP 的渐近推导与贝叶斯

    应用小方差渐近方法直接处理贝叶斯非参数模型的后验概率，得到一种超越聚类的特征学习目标函数，并提出一些易于实现的新算法，这些算法的效果被实验结果验证。

    Dec, 2012

  • 基于贝叶斯非参数的 k-means 聚类新算法再探

    本文从贝叶斯非参数的角度出发，重新审视了 k-means 聚类算法。通过分析 Dirichlet 过程混合物的 Gibbs 抽样算法，我们发现这个算法在极限下接近于硬聚类算法，可以优雅且单调地最小化一个类似 k-means 的聚类目标，包括对聚类数的惩罚。我们将这个方法推广到了多个数据集的聚类情况，并讨论了进一步的扩展，包括门槛特征向量的光谱松弛和在图中不需要固定聚类数的归一化割图聚类算法。

    Nov, 2011

  • 分布式多项式混合模型的收缩吉布斯采样器在联邦学习中的应用

    通过使用合适的统计量，本文提出了一种新的 DPMM（Dirichlet Process Mixture Models）的分布式马尔科夫链蒙特卡罗（MCMC）推理方法（DisCGS）。该方法使用了折叠的吉布斯采样器，并且特别设计用于在独立异构的机器间处理分布式数据，使其在横向联合学习中具备应用能力。我们的方法取得了非常有前景的结果和显著的可扩展性。例如，对于包含 10 万个数据点的数据集，集中式算法需要大约 12 小时完成 100 次迭代，而我们的方法仅需 3 分钟完成相同的迭代次数，将执行时间缩短了 200 倍，同时不影响聚类性能。

    Dec, 2023

  • 无截断的 DPMM 混合推理

    本文提出了一种基于抽样 MCMC 和变分方法的截断无关的 DPMM 混合模型推断方法，旨在提高 DPMM 变分更新的效率并仅在必要时增加模型复杂度，且在单成员模型和混合成员模型中均表现良好。

    Jan, 2017

  • 结构化时间序列的快速非参数聚类

    本研究结合贝叶斯非参数模型高斯过程和狄利克雷过程，创新性地在高斯过程的基础上引入结构化时间序列数据模型，以及加速新型的狄利克雷过程变分推理算法，可用于优化我们的方差逼近。生物时间序列应用实例中，我们的模型更好地捕获了数据的显著特征，提高了与现有生物分类的一致性，同时推理算法提供了 EM 变分推理的两倍速度。

    Jan, 2014