基于模拟的堆叠
我们提出了一种基于预测分布的 Stacking 方法,利用 Pareto-smooth 重要性采样计算所需的单次观察后验分布和正则化以获得更好的稳定性,比较结果表明我们的方法在计算成本可接受的情况下优于其它方法。
Apr, 2017
提出了两种将贝叶斯模型组合起来的工具:log-linear pooling 和 quantum superposition,并通过 Hyvarinen 分数对模型权重进行优化,以解决计算正常化常数的负担。
May, 2023
使用结构化概率分布的混合模型,提供了逼真的后验推断,相较于基于神经网络的仿真推断方法,在计算上具有更小的足迹,对于具有复杂模型和难以计算的似然函数的贝叶斯推断提供了一个可行的选择。
Mar, 2024
本研究提出了一种基于后验模拟的隐式模型先验和神经网络的元均账后验推断方法,用于系统地选择模型组件以及实现参数推断。研究表明此方法对于发现数据一致的模型配置,估计参数以及识别非可识别模型组件等方面能够提供有力的工具,有效地促进了数据驱动模型的复杂性建造与推断。
May, 2023
本研究将平衡方法扩展到任何提供后验密度的算法上,并提出了神经后验估计和对比神经比率估计的平衡版本,实验结果表明平衡版本倾向于在各种基准测试中产生保守的后验逼近,并提供了平衡条件的替代解释。
Apr, 2023
在非线性模型中,我们提出了一种基于模拟推理和分数网络的方法,利用多个观测值的共享信息来更好地推断模型的参数,并在各种数值实验中证明了其在数值稳定性和计算成本方面的优越性。
Apr, 2024
提出了一种新的基于神经网络的自适应后验变换方法,APT 可以用任意动态更新的提议来修改后验估计,采用流形密度估计器,具有更高的灵活性、可伸缩性和效率,并能直接处理高维时间序列和图像数据,并可开展无似然推断。
May, 2019
引入校准项到神经模型的训练目标中,通过放松经典校准误差公式,我们提出了一种方法来解决现有算法对后验不确定性估计准确性的挑战,该方法适用于现有计算流程,实现可靠的黑盒后验推断,并在六个基准问题上经验证明具有竞争性或更好的结果。
Oct, 2023
本文采用贝叶斯回归法建模时间序列,并堆叠不同的预测模型,使其能够估计时间序列预测不确定性和风险特征,同时探讨使用贝叶斯回归的层次化模型来应对历史数据短、数据变化不明显的销售预测问题。结合 ARIMA, 神经网络,随机森林和 Extra Tree 模型进行预测,利用二层的贝叶斯回归法通过估计回归系数的分布进行信息融合,以最终预测的风险做决策支持。
Jan, 2022
通过使用模型模拟,摊销贝叶斯推理训练神经网络以解决随机推理问题,从而实现对新观察到的任何数据的快速贝叶斯推理。我们提出了一种新的摊销推理方法 ——Simformer,通过训练具有变压器架构的概率扩散模型,克服了当前模拟为基础的摊销推理方法的局限性,且在基准任务上优于当前最先进的摊销推理方法,具有更大的灵活性,可以应用于具有函数值参数的模型,处理具有缺失或非结构化数据的推理场景,并能够采样参数和数据的任意条件联合分布,包括后验和似然函数。我们展示了 Simformer 在生态学、流行病学和神经科学的模拟器上的性能和灵活性,并证明它为基于模拟的模型上的摊销贝叶斯推理打开了新的可能性和应用领域。
Apr, 2024