Jan, 2008

一种非参数贝叶斯聚类的新型先验过程

PDF
TL;DR研究 Bayesian 聚类中先验分布的作用和 Dirichlet、Pitman-Yor 等常用先验分布的预测概率，探索了非参数化 Bayesian 聚类中的另一种先验分布 —— uniform process 的优点和缺陷，并在真实文档聚类任务中进行性能比较。
发现论文，激发创造
  • 使用动力狄利克雷过程控制贝叶斯聚类中先验偏好的重要程度

    使用改进的参数分布推导出来自 Dirichlet-Multinomial 分布的 Powered 中餐厅过程，以解决 Dirichlet 先验不一定是建模数据的最佳选择的问题，并提供直接控制 “富人越富” 先验重要性的新公式。

    Apr, 2021

  • Gibbs 型先验是狄利克雷过程最自然的泛化吗？

    本文重点介绍了 Gibbs-type 先验概率的家族和它们在贝叶斯非参数推断中的应用，涵盖其分布特性、估计器、经验验证和构建时间相关版本，并以层次混合模型和物种抽样为例说明其主要思想。

    Feb, 2015

  • 具有分层皮特曼 - 约尔过程的非参数贝叶斯主题建模

    本文介绍了用于构建层次化非参数贝叶斯模型的狄利克雷过程及其扩展 —— 皮特曼 - 约尔过程，提出了用于文本分析的潜变量模型。重点介绍了一种通用的贝叶斯模型设计框架，并提出了一种具体的非参数贝叶斯主题模型，用于对社交媒体上的推文进行建模。实证研究表明，我们的模型在适应度和现实应用中都优于现有的参数模型。

    Sep, 2016

  • 可数离散分布的贝叶斯熵估计

    本文讨论了如何用 Dirichlet 和 Pitman-Yor process prior 对 Shannon 熵 $H$ 进行 Bayesian 估计，同时提出 Pitman-Yor Mixture (PYM) entropy estimator，适用于大多数分布类型。

    Feb, 2013

  • 基于贝叶斯非参数的 k-means 聚类新算法再探

    本文从贝叶斯非参数的角度出发，重新审视了 k-means 聚类算法。通过分析 Dirichlet 过程混合物的 Gibbs 抽样算法，我们发现这个算法在极限下接近于硬聚类算法，可以优雅且单调地最小化一个类似 k-means 的聚类目标，包括对聚类数的惩罚。我们将这个方法推广到了多个数据集的聚类情况，并讨论了进一步的扩展，包括门槛特征向量的光谱松弛和在图中不需要固定聚类数的归一化割图聚类算法。

    Nov, 2011

  • MAD-Bayes: 基于 MAP 的渐近推导与贝叶斯

    应用小方差渐近方法直接处理贝叶斯非参数模型的后验概率，得到一种超越聚类的特征学习目标函数，并提出一些易于实现的新算法，这些算法的效果被实验结果验证。

    Dec, 2012

  • 泊松 - 狄利克雷过程的贝叶斯视角

    本文介绍了 Poisson-Dirichlet 过程及其在 Bayesian 建模中的应用，包括构建离散问题的先验、后验和计算技巧，还介绍了分割、共轭、分形和聚类等特性。

    Jul, 2010

  • Pitman-Yor 过程混合模型中组成数量的不一致性

    本文研究了有限混合模型的贝叶斯密度估计与数目成分推断中，使用狄利克雷过程混合模型（DPMs）和 Pitman-Yor 过程混合模型（PYMs）等非参数混合模型的后验分布并不一致，特别适用于大多数分布族，包括离散族以及满足柔性正则条件的连续指数族（如多元高斯分布）。

    Aug, 2013

  • ClusterCluster：针对狄利克雷过程混合模型的并行马尔科夫链蒙特卡罗算法

    本文介绍一种新型的 DP 重新参数化方法，该方法在聚类分析中广泛使用，能够实现 DP 的并行学习，从而提高了学习速度和效率，同时该方法不需要改变模型并且能够保持标准后验分布不变。

    Apr, 2013

  • Dirichlet 过程混合模型的快速搜索

    本文研究了用于密度估计的柏努利处理（DP）混合模型的计算问题，并提出了一种可用于大数据集的搜素算法。

    Jul, 2009