非线性贝叶斯反问题中的认证降维
基于贝叶斯方法解决的逆问题,通常相对于先验只在参数空间的低维子空间上有信息。因此,可以利用该子空间对参数的后验分布进行近似计算。本文从近似后验协方差矩阵和后验均值两个角度,提出了两种快速的近似方法,并在多个应用案例中进行了验证。
Jul, 2014
提出一种基于梯度的方法,利用导向高维不确定性量化问题中重要方向,构建函数的岭近似,对于向量值函数来说。该方法最小化近似误差的上界,通过子空间 Poincare 不等式获得。在参数空间配备高斯概率测度的情况下,提供了彻底的数学分析,结果表明,使用函数的梯度可以有效地降低维度。还展示了如何选择函数定域的规范对函数的低维近似有影响。该方法推广了与标量值函数相关联的主动子空间的概念。
Jan, 2018
介绍了一种基于机器学习的方法,通过非线性条件异方差回归和改进的重要性采样方法估计后验概率密度,相较于现有方法在统计遗传学和排队模型等领域计算负担减轻了不少。
Sep, 2008
提出了一种通过最小化维度对数 Sobolev 不等式和 KL 散度,以识别目标与参考测度之间的近似关系的方法,该方法适用于高维概率测度的低维结构识别和有效抽样。
Jun, 2024
本文提出一种利用凹非线性变换密度函数后进行带有 Rank-one 矩阵修正的特征值问题的变分方法,以改进对于所估计弯曲曲面在切点处的估测结果。通过其在合成和真实数据集上的实验结果表明了其方法对于估计真实弯曲曲面的优越性。
Jun, 2023
该论文提出了一个几何统计分析框架,适用于泛化的不适定线性反问题模型,包括噪声压缩感知、符号向量恢复、迹回归、正交矩阵估计和噪声矩阵完成等特殊情况,提出了可行的计算凸规划方法,用于统计推断,包括估计、置信区间和假设检验。该论文建立了一个理论框架,以表征局部估计收敛速度,并提供统计推断保证,其结果基于局部锥几何和对偶性,并通过高斯宽度和 Sudakov 最小化估计量表征局部切锥的几何。
Apr, 2014
在这项研究中,我们介绍了一种能够在函数空间中解决贝叶斯逆问题的抽样方法,它不需要似然函数的对数凹性,可以用于非线性逆问题。该方法利用了最近定义的无限维度基于得分的扩散模型作为基于学习的先验,并通过在函数空间上定义的 Langevin 类型的 MCMC 算法实现可证明的后验采样。我们进行了一项新颖的收敛性分析,受传统正则化 - 去噪算法中建立的不动点方法的启发,并与加权模拟退火兼容。所得到的收敛界明确依赖于得分的逼近误差;良好逼近的得分对于获得良好逼近的后验至关重要。我们提供了基于样式和基于 PDE 的示例,证明了我们的收敛性分析的有效性。最后,我们讨论了学习得分和计算复杂性方面的挑战。
May, 2024
利用最少体积这一新颖的非监督非线性降维方法解决高维、非线性和模型不确定性等问题,从而实现后验推断,为逆问题提供了潜在条件生成模型的训练方法。
May, 2024
本文研究了非参数逆问题中的后验分布,证明其收敛于真实参数的速率取决于参数的平滑度以及先验的平滑度和尺度。正确组合这些特征可以实现最小化速率。显示可信度集的频率覆盖取决于先验和真实参数的组合,先验更平滑会导致零覆盖,而粗糙的先验会导致保守的覆盖。在后一种情况下,可信区间的数量级是正确的。通过恢复受噪音干扰的基本函数的问题进行了数值演示。
Mar, 2011
本文提出了一种基于 Sliced Inverse Regression(SIR)的高维贝叶斯优化算法,能够通过降维方法学习对象函数的内在子结构,并且采用了核技巧来降低计算复杂度和学习非线性的子集。实验证明,该算法在高维贝叶斯优化中具有优越性。
Jul, 2019