Dec, 2023

基于回归神经网络的可靠预测区间

PDF
TL;DR该论文采用一种名为 Conformal Prediction (CP) 的新型机器学习框架，基于独立同分布的数据，提出了一种扩展传统回归神经网络的方法，将点预测转化为满足所需置信水平的预测区间。作者在四个基准数据集和预测电离层连接中的重要参数之一 —— 总电子含量 (TEC) 的预测问题上进行了实证评估，结果表明该方法产生的预测区间在实践中既具有良好的校准性又足够紧凑。
发现论文，激发创造
  • Confidence-Nets: 面向小数据集回归神经网络更好预测区间的一步

    本文介绍了一种组合 DNN、XGBoost 和差异性计算技术的集成方法，用于估计预测的不确定性、提高准确性并提供预期变化的区间，其计算简单，适用于小数据集且性能提升显著，且模型的预测区间可平均包括实际值的 71％和 78％。

    Oct, 2022

  • 深度网络自适应、无分布预测区间

    提出了一种基于统计方法的神经网络预测间隔构造方法，旨在解决其他相关研究的局限性，提供更为准确的预测区间并保证预测精度，该方法易于实施且适用于大多数深度神经网络。

    May, 2019

  • 从协同网络中估计不确定性区间

    本研究提出了一种名为 Collaborating Networks (CN) 的方法，利用两个神经网络来近似回归的累积分布函数及其反函数，实现预测分布的估算，该方法具有高度的一致性、准确性和鲁棒性，在电子健康记录等领域应用具有重要意义。

    Feb, 2020

  • 利用 E - 检验统计量增强符合性预测

    使用 e 检验统计量引入 BB 预测器来增强符合性预测的效果，从而生成可靠的预测区间。

    Mar, 2024

  • 高斯过程回归的保证覆盖预测区间

    基于一种称为 Conformal Prediction 的机器学习框架的 GPR 扩展，可以在模型完全错误指定的情况下保证产生所需覆盖范围的 PI，实验结果表明其优于现有方法。

    Oct, 2023

  • 基于似然比的神经网络置信区间

    该论文介绍了一种利用似然比方法构建神经网络置信区间的初步实现，提出了 DeepLR 方法，该方法具有限定数据区域扩展的不对称区间以及考虑训练时间、网络结构和正则化技术等因素的优势。尽管当前实现方式在许多深度学习应用中代价过高，但在医学预测或天体物理学等领域，对单个预测的可靠不确定性估计已经具有明确的价值。这项工作突显了基于似然比的不确定性估计的潜力，并为未来的研究打下了良好基础。

    Aug, 2023

  • 最近邻回归符合性预测

    本文探讨了如何将 Conformal Prediction 应用于 k - 最近邻回归算法，提出了对于回归算法中所使用的非一致性度量进行扩展的方式，并定义了 6 种基于 k-NNR 算法的新型非一致性度量，得出相比典型回归度量相比，在预测区域密集程度方面突破性的改进。

    Jan, 2014

  • 预测区间的判别式学习

    本文提出了一种区分学习框架，它在区间大小预算约束下，优化预期错误率，以构建归纳批处理中的预测区间。通过专注于预期误差，我们的方法允许条件错误率的变异性，这可以提高整体准确性或者减少平均区间大小。虽然我们考虑的问题是回归型的，但我们使用的损失是组合型的，这使我们能够提供 PAC 样式的有限样本保证。

    Oct, 2017

  • 深度学习的高质量预测区间：一种无分布、集成方法

    本论文研究使用神经网络生成预测区间 (PIs) 以量化回归任务中的不确定性。通过导出一个无需分布假设的损失函数，该方法能够生成高质量的 PIs，并通过集成学习考虑了模型不确定性，实验结果表明该方法优于目前最先进的不确定性量化方法，平均 PI 宽度减少了 10% 以上。

    Feb, 2018

  • CONFINE：可解释神经网络的拟合预测

    通过引入适应性神经网络的可证估计预测模型，CONFINE 可以增强模型透明度和可靠性，并提供基于样例的解释和置信度评估，从而提高模型准确性。

    Jun, 2024