- 具有多个输出和卷积层的有限宽度贝叶斯深度线性网络中的特征学习
在此研究中,我们对多输出和卷积层的有限宽度结构的函数统计提供了严格的结果,从而更接近完整描述贝叶斯设置中特征学习的过程。我们的结果包括:(i)一个对于输出的联合先验分布的确切且简单的非渐近积分表示,以高斯混合形式给出;(ii)在均方误差损失 - 贝叶斯成像方法报告可信的概率吗?
这篇文章利用蒙特卡罗方法研究了现有的贝叶斯成像方法在重复实验中的概率结果是否具有可靠性,在探索了五种典型的贝叶斯成像策略后发现,现有方法通常不能提供可靠的不确定性量化结果。
- 基于哈密尔顿蒙特卡洛的贝叶斯不确定性估计:应用于心脏 MRI 分割
基于深度学习的医学图像分割在许多任务上达到了最先进的性能。然而,最近的研究表明深度神经网络可能会出现错误校准和过度自信的问题,从而导致临床应用中的潜在失败。贝叶斯统计提供了一种直观的方法来检测深度学习的失败,基于后验概率估计。然而,对于大规 - 大规模估计局部学习系数
本论文通过在深度线性网络上使用 {t arXiv:2308.12108 [stat.ML]} 中的方法,经验性地展示了如何准确自洽地测量局部学习系数(LLC),并证明了估计的 LLC 具有理论量的尺度不变性。
- 最坏情况分析即最大后验估计
该研究提出了一种名为 DSE-SMC 的通用、自适应和可靠的模糊测试框架,用于估算最坏情况下的资源使用情况,该框架基于贝叶斯统计学中的最大后验估计问题,通过结合顺序蒙特卡洛方法和自适应进化模糊测试算法来分析程序的资源使用行为,实验证明 DS - 加速贝叶斯决策树的并行方法
本文提出两种应用并行处理的方法以替代传统的 Markov Chain Monte Carlo (MCMC),即采用 Sequential Monte Carlo (SMC) 取样器或数据分区,并通过实验测试发现在多核处理器中使用 SMC 比 - MM神经得分估计的概率质量映射
利用贝叶斯统计学、分析理论和基于神经得分匹配的深度生成模型的方法,构建一个高效的方法来进行弱引力透镜质量绘制,从而精确重建 HST/ACS COSMOS 领域的收敛地图。
- 基于梯度的马尔可夫链蒙特卡罗用于带有不可微先验的贝叶斯推断
本文提出了一种使用欠阻尼 langevin 动力学的 Moreau-Yosida 近似的新实现方法,以及使用分段确定马尔可夫过程(PDMP)进行准确后验推断的方法。这两种采样方法使用范围更广泛,具有更好的采样精度。
- 贝叶斯神经网络实践 -- 适用于深度学习用户的教程
该研究论文介绍了深度学习和贝叶斯统计的结合,使用贝叶斯神经网络进行训练和评估以及解决拟合不足的问题。
- ICML回飞标本采集器
介绍 Boomerang Sampler 这一新颖的连续时间不可逆 Markov Chain Monte Carlo 算法类,该方法在高斯测度下构建了由分段椭圆形轨迹组成的连续轨迹,并通过该算法的速率函数在椭圆形轨迹中移动。此外,还演示了在 - 从头开始的稀疏变分推断:基于贝叶斯核心集
本研究提出了一种基于稀疏约束变分推断视角的 Riemannian coresets 构建算法,与过去的方法相比,该算法不需要一个合理的后验近似。实验结果表明,提出的算法能够不断改善 coreset,大大减小 KL 散度,从而提供最先进的 B - 边际似然和交叉验证
本文针对 Bayesian 统计推断中模型拟合的评估方法,提出了一种新思路,即把边缘似然与采用信息熵对数作为评分规则的对于所有大小为 p 的测试数据集迭代得出的穷举式的 leave-p-out 交叉验证等效形式,并探讨了边缘似然对先验选择敏 - 常数标准化、折叠和定位:用于评估 MCMC 收敛性的改进 R^ ̂
本文提出了一种修正了 Gelman 和 Rubin 的收敛诊断 R^ 的新方法,以解决其在链条存在重尾或方差变化等问题时不能准确诊断收敛失败的问题,并依此提出了一些基于分位数的局部效率量及其误差估计方法,并建议使用多个链条的排名图,取代传统 - 超越对数凹性:使用模拟淬火 Langevin Monte Carlo 取样多峰分布的可证明保障
研究重点在于使用 Langevin 扩散和模拟退火方法构建一种 Markov 链,能够在考虑温度的情况下从多种形式的分布中进行快速采样。
- 基于循环潜变量网络的会话推荐
该研究的目的在于解决在基于会话的推荐中数据稀疏性的影响。作者采用贝叶斯统计学中的概念进行改进,将网络循环单元作为具有先验分布的随机潜变量,推导出对应的后验分布,并利用该方法进行预测推荐。实验证明,该方法优于现有技术。
- 桥式抽样教程
本文介绍了一种可靠而相对简单的取样方法 ——bridge sampling, 以及它在近期较为热门的强化学习模型里的应用,证明其在数学心理学中是一种可行的取样估计方法。
- 变分推断:统计学家综述
本文通过机器学习中的变分推断方法近似计算难以计算的概率密度,特别地,本文对变分推断的思想和现代 VI 研究中的重要问题进行了全面的讨论。
- 变分共识蒙特卡罗
本文提出了一种改进的变分共识蒙特卡洛算法,该算法优化聚合函数以从分布中获得更好的近似目标,并展示了在三个推理任务中的优越性,实验结果表明,在一些情况下,改进后的算法较串行 MCMC 更快而且相对误差降低幅度高达 92%。
- AAAI通过交换性实现可处理性:高效概率推断的新视角
论文研究了有限可交换性及其与可计算概率推断的关系,并指出现有的升级推理算法隐含着条件独立和部分可交换性的结合。
- 贝叶斯网络上的理论细化
本文探讨了面对不确定性的理论完善问题,并提出采用贝叶斯网络进行增量式学习的算法来更新部分理论并计算概率。