连续世界中有限信息下贝叶斯推断的脆弱性
本研究旨在提供关于贝叶斯推断过程中脆弱性机制的 kw1,并探究 kw2 的应用,发现构成有限维空间的 Hausdorff 矩阵集在需要高阶矩的情况下可能出现估计误差的情况。同时,探究了 Markov 和 Krein 规范下的矩阵,发现与可复制的 Hilbert 空间多项式的可复制内核等式相关联,并引出 Selberg 积分公式的双正交系统。
Apr, 2013
Bayesian inference 中的不确定性推断及其分解方法的研究。首次定义了测试数据和训练数据之间的敏感性,并扩展了 Bayesian meta-learning 的分析。
Jul, 2023
本文探讨了对于 Bayesian 推断模型的输入扰动的鲁棒性估计问题,通过使用高斯过程理论并提出算法计算当前模型在输入空间中的紧密强度,并应用于两个例子中:一个 GP 回归问题和一个全连接深度神经网络来研究 MNIST 数据集上的对抗性例子。
Sep, 2018
本文提出了一种新的方法,基于 Wasserstein 距离的估计误差进行控制,然后通过广义 Fisher 距离限制 Wasserstein 距离。我们使用这种方法为 Laplace 近似和 Hilbert coresets 推导 Wasserstein 误差上限,并期望这种方法也适用于其他近似推理方法,例如综合 Laplace 近似、变分推理和近似贝叶斯计算。
Sep, 2018
本文探讨了以 Stein discrepancy 作为损失函数的广义贝叶斯推断,以规避似然函数中存在难以计算的标准化常量,并展示了其一致性、渐近正常性和偏差稳健性,同时提供了针对各种难以计算分布的数值实验,包括基于核的指数族模型和非高斯图模型的应用。
Apr, 2021
本文提出了一种改进的贝叶斯推断方法,可以通过条件数据的经验分布邻域而不是实际数据,提高模型对扰动的鲁棒性;该方法使用基于相对熵估计的邻域,通过将似然函数提升到分数次幂(即 tempering),使得可以使用标准方法实现推断,甚至在使用共轭先验时也能获得解析解。实验结果表明,在混合模型、未知阶数自回归模型及线性回归变量选择等任务中都能得到良好表现。
Jun, 2015
该研究探讨了一种最坏情况的方法来衡量随机系统性能分析中的模型误差敏感性,通过 Kullback-Leibler(KL)散度度量模型误差,并通过优化计算程序来计算最坏情况性能指标,通过创新的微小近似方法,得出了这些程序的最优值渐近展开式,展开式系数可以通过模拟计算,并从最坏情况模型的表示中派生而来,这些表示作为函数不动点方程组的定义。
Mar, 2013
本文研究了非参数逆问题中的后验分布,证明其收敛于真实参数的速率取决于参数的平滑度以及先验的平滑度和尺度。正确组合这些特征可以实现最小化速率。显示可信度集的频率覆盖取决于先验和真实参数的组合,先验更平滑会导致零覆盖,而粗糙的先验会导致保守的覆盖。在后一种情况下,可信区间的数量级是正确的。通过恢复受噪音干扰的基本函数的问题进行了数值演示。
Mar, 2011