我们提出了一种新的参数自适应不确定性惩罚贝叶斯信息准则(UBIC),用于优先考虑具有少量可靠项的噪声时空观测数据的简约偏微分方程(PDE)。我们还引入了基于物理的神经网络学习作为一种模拟方法,以灵活地验证所选的 PDE 与其他发现的 PDE。数值结果证实了 UBIC 在识别真实控制 PDE 方面的成功应用。此外,我们揭示了去噪观察数据对改善 BIC 得分与模型复杂性之间的权衡的有趣效果。
Aug, 2023
本文探讨了其 Fisher-information 矩阵可能不可逆的模型选择问题下的序贯模型选择,提出了解决奇异模型选择问题的贝叶斯信息准则(BIC)以及边缘似然的近似方法。
Sep, 2013
介绍了一种广义信息准则,可以包含其他信息准则(如贝叶斯信息准则(BIC)和赤池信息准则(AIC))作为特殊情况,还引入了一种更为通用的谱信息准则(SIC),采用几何特征提取误差曲线的肘部,为模型选择提供子集合,并提出选择唯一模型的实用规则。测试表明该方案具有优势,并附带提供了相关的 Matlab 代码。
本研究考虑了拟合估计器模型选择问题,其中模型参数的数量超过数据集的大小。研究者们通过建立双重欠定参数模型来解决了模型选择问题,提出了一种新的统计量,称为插值信息准则(Interpolating Information Criterion)。这个统计量不仅可以衡量模型拟合的质量,而且还可以自然地纳入先验选择问题。
Jul, 2023
本文研究统计学习模型在正则和奇异情况下的 Bayes free energy 和 real log canonical threshold 的关系,提出了一种适用于奇异模型的广义贝叶斯信息准则(WBIC),这是基于后验分布的平均对数似然函数计算得出的一种新准则。
Aug, 2012
本文提出物理信息准则 (PIC) 来综合度量已发现的 PDE 的简洁性和精确性,证实了其在处理高噪声、稀疏数据方面的鲁棒性,PIC 也被用于从微观模拟数据中发现未揭示的宏观统治方程,结果表明发现的宏观 PDE 是精确和简洁的,符合基本对称性,从而促进了对物理过程的理解和模拟。PIC 的提出使 PDE 发现能够在更广泛的物理环境中实现应用。
Aug, 2022
本文提出了一种基于乘数 bootstrap 的非参数和数据相关的 UCB 算法,并进一步将二阶校正融入该算法,在理论上,我们推导出了在比标准次高斯性更弱的尾部假设下的多臂老虎机的问题相关和问题无关的后悔边界,数值结果表明 UCB 算法相比其他基线在一系列多臂和线性老虎机问题中都有显著的降低后悔
Jun, 2019
我们引入了一种新颖的信息准则(IC),称为孤立学习(LS),用来增强广泛适用贝叶斯信息准则(WBIC)和奇异贝叶斯信息准则(sBIC)的功能。LS 在没有正则约束的情况下有效,并表现出稳定性,通过将广泛适用信息准则(WAIC)的经验损失与 sBIC 类似的惩罚项相结合,LS 提供了一个灵活且鲁棒的模型选择方法,不受正则约束限制。
Feb, 2024
本文研究了用于高斯图模型种反向协方差矩阵的稀疏性,说明了贝叶斯信息准则在变量数和样本大小呈线性增长情况下的一致性,并验证了其在与高斯套索结合使用时的性能。
Nov, 2010
本文提出了一种基于高斯过程模型及概率分布的上置信区间算法来解决 Bayesian 优化问题中同时考虑查询结果和查询位置不确定性的问题,并在模拟合成和真实数据等场景中对比了该算法与传统 UCB 算法以及其他考虑输入噪声的 BO 算法的实验表现。
Feb, 2019