本研究介绍了一种基于层次结构的先验知识的分类模型建立方法,该方法采用了贝叶斯形式的多项式逻辑回归模型,并将树形结构中接近的类之间的参数引入相关性,相较于传统的 MNL 模型和使用不同层次方式的模型,在模拟数据和文档标记问题上取得了更优的性能,尤其是在训练数据较少的情况下。
Oct, 2005
本文针对广义线性模型的超参数,对其进行了推广,在灵活性上做了优化。任何连续的适当的超先验 f(g)都可以使用,引出了大量的超 - g 先验。本文提出了联合 Laplace 近似方法,可以快速而准确地推理模型的后验分布,同时提出了一种高效的且无需调参的 Metropolis-Hastings 采样算法。通过使用 Pima Indians 糖尿病数据集,说明了变量选择和自动协变量转换的方法。
Aug, 2010
通过在非层次逻辑回归模型系数上独立使用学生 - t 先前分布构造一个新的先前分布,具有更好的性能,并且自动应用更多的收缩到高阶交互项和自动生成更好的结果。
Jan, 2009
该研究论文提出一种基于 n-gram 语言模型和分数贝叶斯因子的符号回归(SR)的先验信息方法,并将其性能与文献标准以及天文学领域中的基准测试结果进行了比较。
Apr, 2023
采用中位概率模型(MPM)来选择变量,在一类特定的先验分布下能最好地预测,而这个规则已经被广泛地使用于更广泛的先验分布和相关设计中,因此本文旨在解释 MPM 在这些情况中的特性,以及提供更广泛的先验概率分配方法和模型汇总概念,以此加强 MPM 的结果和解释的准确性。
Jul, 2018
提出一种使用贝叶斯方法中的随机变量作为分类任务中的 softmax 的替代品,以更好地估计不确定性和模型校准,并在多种挑战性任务中提供了一致的泛化性能提高。
Feb, 2020
定义了一组概率分布,用于随机计数矩阵,并构建出三种分布,分别来自于 gamma-Poisson、gamma-negative binomial 和 beta-negative binomial 过程。这些模型都具有 GIBBS 抽样更新方程,适合作为计数矩阵的非参数贝叶斯先验。通过对这些矩阵的组合结构进行分析,介绍了如何逐行构建一个列独立同分布的计数矩阵,并得到了新行计数向量的预测分布。最后,用这些先验设计了一个朴素贝叶斯文本分类器,并通过实验证明了负二项式过程比 Poisson 过程更适合文本分类。
Apr, 2014
研究 Bayesian 聚类中先验分布的作用和 Dirichlet、Pitman-Yor 等常用先验分布的预测概率,探索了非参数化 Bayesian 聚类中的另一种先验分布 —— uniform process 的优点和缺陷,并在真实文档聚类任务中进行性能比较。
Jan, 2008
介绍了一种基于概率抽样的推理框架,利用图形模型中的近似对称性来提出在马尔可夫链中进行选择的步骤,以改进概率估计并保持无偏。
Dec, 2014
该论文介绍了如何计算广义 CRM 先验和 Bayesian 非参数模型的似然后验,并且提出了利用大小偏置方法和有限边际方法来表示 Bayesian 非参数先验和模型的方法。
Oct, 2014