深度网络自适应、无分布预测区间
本论文研究使用神经网络生成预测区间 (PIs) 以量化回归任务中的不确定性。通过导出一个无需分布假设的损失函数,该方法能够生成高质量的 PIs,并通过集成学习考虑了模型不确定性,实验结果表明该方法优于目前最先进的不确定性量化方法,平均 PI 宽度减少了 10% 以上。
Feb, 2018
本文介绍了一种组合 DNN、XGBoost 和差异性计算技术的集成方法,用于估计预测的不确定性、提高准确性并提供预期变化的区间,其计算简单,适用于小数据集且性能提升显著,且模型的预测区间可平均包括实际值的 71%和 78%。
Oct, 2022
该论文采用一种名为 Conformal Prediction (CP) 的新型机器学习框架,基于独立同分布的数据,提出了一种扩展传统回归神经网络的方法,将点预测转化为满足所需置信水平的预测区间。作者在四个基准数据集和预测电离层连接中的重要参数之一 —— 总电子含量 (TEC) 的预测问题上进行了实证评估,结果表明该方法产生的预测区间在实践中既具有良好的校准性又足够紧凑。
Dec, 2023
本文提出了一种区分学习框架,它在区间大小预算约束下,优化预期错误率,以构建归纳批处理中的预测区间。通过专注于预期误差,我们的方法允许条件错误率的变异性,这可以提高整体准确性或者减少平均区间大小。虽然我们考虑的问题是回归型的,但我们使用的损失是组合型的,这使我们能够提供 PAC 样式的有限样本保证。
Oct, 2017
该论文介绍了一种利用似然比方法构建神经网络置信区间的初步实现,提出了 DeepLR 方法,该方法具有限定数据区域扩展的不对称区间以及考虑训练时间、网络结构和正则化技术等因素的优势。尽管当前实现方式在许多深度学习应用中代价过高,但在医学预测或天体物理学等领域,对单个预测的可靠不确定性估计已经具有明确的价值。这项工作突显了基于似然比的不确定性估计的潜力,并为未来的研究打下了良好基础。
Aug, 2023
通过最近的完全预测方法 [13, 33],并利用核回归的经典思想,我们提出了局部有效和区分预测间隔(LVD)的一种简单、高效、轻量级方法,用于为几乎任何 DL 模型构建区分预测间隔(PIs)。我们在各种数据集上进行了实证验证,结果表明,除了是 DL 的唯一局部有效方法外,LVD 还超过或匹配现有不确定性量化方法的性能(包括覆盖率和预测准确性),同时在可扩展性和灵活性方面提供了额外的好处。
Jun, 2021
本文提出了一种建立在鲁棒性预测推断上的不确定性估计模型,使用 conformal inference 方法建立了准确覆盖测试数据分布的预测集,通过估计数据漂移量建立了鲁棒性,并在多个基准数据集上进行了实验证明了该方法的重要性。
Aug, 2020
本研究提出了一种名为 Collaborating Networks (CN) 的方法,利用两个神经网络来近似回归的累积分布函数及其反函数,实现预测分布的估算,该方法具有高度的一致性、准确性和鲁棒性,在电子健康记录等领域应用具有重要意义。
Feb, 2020
本研究提出了一种基于条件分布模型(如分位数和分布回归)构建有条件有效的预测区间的健壮方法,可以应用于横截面预测、k 步预测、合成控制和反事实预测、个体治疗效果预测等重要预测问题。
Sep, 2019
深度学习模型在各个领域显著提高了预测准确性,并在许多学科中得到认可。然而,有一个深度学习方面仍未充分解决的问题是预测不确定性的评估。本研究提供了一种有效的非参数自助法,能够正确区分数据不确定性和所采用的优化算法中固有的噪音,确保生成的逐点置信区间或同时置信带是准确的(即有效且不过于保守)。该提议的方法可以轻松整合到任何深度神经网络中,而无需干扰训练过程。该方法的实用性通过为具有右删失的生存数据的深度神经网络构建同时置信带来进行了说明。
Jun, 2024