本文通过理论分析,证明了 Bayes 交叉验证损失与广泛适用信息准则的随机变量是等价的,并阐明了交叉验证误差和泛化误差之间的关系取决于学习机的代数几何结构。
Apr, 2010
提出了一种用于模型选择的半贝叶斯原则,并通过渐近扩展导出了半贝叶斯信息准则(SIC),该方法在模型正确性和不正确性下的模型选择具有优势。
May, 2010
该论文提出了一种基于优化器信息准则 (OIC) 的偏差修正方法,直接近似一阶偏差,不需要解决任何额外的优化问题。该方法可以用于决策选择,适用于各种数据驱动优化方案,并在合成和真实数据集上进行了数值验证,表现卓越。
Jun, 2023
本文研究了用于高斯图模型种反向协方差矩阵的稀疏性,说明了贝叶斯信息准则在变量数和样本大小呈线性增长情况下的一致性,并验证了其在与高斯套索结合使用时的性能。
Nov, 2010
本研究介绍了一种使用基于后验模拟的参数值估算点外样本预测精度的方法 —— 留一法交叉验证(LOO)和广泛适用信息准则(WAIC),并通过现有的模拟数据绘制快速和稳定的计算过程。同时,使用 Pareto 平滑重要性抽样(PSIS)实现了 LOO 的高效计算,并提出了一种比 AIC 和 DIC 更优的预测误差估计方法,并将这些计算结果运用到 R 代码包中。
Jul, 2015
应用机器学习模型进行决策需要区分模型所知与不知的内容。本文提供新的洞见,揭示当前预测不确定性度量的局限性,并引入了一种理论上可靠的度量方法来克服这些局限。实验证明,我们引入的度量方法在控制的合成任务中表现得更加合理,并且在利用预测不确定性的实际应用中具有优势。
Nov, 2023
使用不确定性惩罚信息准则(UBIC)等同于对一组不同复杂性度量的潜在回归模型的过参数化模型使用传统的 BIC 进行模型选择。
Apr, 2024
本研究考虑了拟合估计器模型选择问题,其中模型参数的数量超过数据集的大小。研究者们通过建立双重欠定参数模型来解决了模型选择问题,提出了一种新的统计量,称为插值信息准则(Interpolating Information Criterion)。这个统计量不仅可以衡量模型拟合的质量,而且还可以自然地纳入先验选择问题。
Jul, 2023
本文介绍了一种扩展的贝叶斯决策实验设计框架,不仅考虑了传统的期望信息增益准则,还引入了期望一般信息增益和期望鉴别信息等准则,以量化模型差异的稳健性和实验检测模型差异的能力。通过应用于一个带有模型差异的弹性质量阻尼系统和 F-16 模型的场景中,展示了该框架的功能。
Apr, 2023
本文讨论了在隐变量模型中使用条件似然度和边缘似然度进行模型比较的问题,并通过比较条件和边缘 Deviance 信息标准和 Watanabe-Akaike 信息标准在心理测量建模中的应用来阐明了这些问题。建议在隐变量模型中普遍应用这些标准。
Feb, 2018