有限混合模型中种群多面体的后验收缩
通过控制随机过程的矩和取极限,我们通过 Langevin 扩散过程分析贝叶斯模型中参数的后验收缩速率,并特别关注了结构和随机摄动边界对于结果的影响,此外,基于该技术,我们也证明了后验的 Bernstein-von-Mises 保证的非渐近版本。
Sep, 2019
该研究探讨了利用分数似然函数通过 Bayes 定理来更新先验分布所得到的分数后验分布,分析了在一般错误规范框架下分数后验的收缩性质,讨论了分数后验的贝叶斯预言不等式,得出了几点基于平均的贝叶斯过程相对于基于最优化的统计规律过程的优越性,同时给出了在上述理论基础下收敛于真值的一些具体应用,譬如凸形回归问题和高斯过程回归问题。
Nov, 2016
研究变分贝叶斯方法在高斯过程回归模型中的理论特性,针对 Titsias 引入的感应变量方法推导出相应变分贝叶斯(VB)后验获得收缩速率的充分条件,证明了针对三种特定的协方差核函数(Matern 核函数,平方指数核函数和随机级数先验)VB 方法可以通过适当选取足够多的感应变量实现优化、极小的收缩速率,并通过数值实验验证了理论发现。
Sep, 2021
本研究论证了紧致黎曼流形上的内蕴 Matérn 高斯过程和外蕴过程在收敛速率上相符,通过在多个实例上的实证结果表明内蕴过程在实践中可以获得更好的性能,这加强了对几何高斯过程的数据效率水平进行细粒度分析的必要性。
Sep, 2023
高斯过程回归模型在现代统计学和机器学习中成为一个核心主题,然而在大规模样本中,要得到精确的后验结果是计算上不可行的,因此我们分析了概率数值方法中一类最近提出的近似算法,结合数值分析和 Kernel 矩阵的谱浓度结果得到了极小化收缩速率的理论结果,通过数值实验验证了我们的理论发现。
Jun, 2024
本文提出了广义后验具有集中性,渐进正态性 (Bernstein-von Mises),A Laplace 近似正确,以及渐近正确的频率覆盖率的充分条件,并将其应用于广义似然的广义后验中,包括一般的伪似然,高斯马尔科夫随机场伪似然,完全观察的 Boltzmann 机器伪似然,Ising 模型伪似然,Cox 比例风险偏似然,以及基于中值的位置鲁棒推断的似然。此外,我们展示了如何使用我们的结果轻松建立指数族和广义线性模型的标准后验的渐进性质。
Jul, 2019
本文研究了扩散生成模型的后验采样问题,提出了一种相对轨迹均衡的数据无关学习目标,并将其应用于视觉、语言和控制等领域,展示了其在生成建模和离线强化学习中的潜力。
May, 2024
本文提出了一种新的 Bayesian 高斯混合模型,其通过斥力先验可实现对聚类的优化,使得模型更具泛化性和可扩展性,同时提供了一种高效的基于 Gibbs 采样算法实现的方法,并借助模拟实验和真实数据分析验证了模型的有效性。
Mar, 2017
研究误差模型下贝叶斯后验分布的渐近行为并研究多个假设,包括基于距离定义的偏差度量,以及应用于凸模型和非凸模型的加权 L1 度量,并探讨其扩展至不独立等但相互独立的情况。
Dec, 2013
本文利用几何视角将混合成分随机块、主题模型和敌对聚类等多种潜变量模型进行了统一,并针对潜变量进行了解析,提出了一种高效算法和子集平滑多面体的概念。
Apr, 2019