Apr, 2023

分位极值梯度提升用于不确定性量化

PDF
TL;DR本研究通过对 Extreme Gradient Boosting (XGBoost) 的改进，使用修正后的分位数回归作为目标函数以估计不确定性 (QXGBoost)，并将其应用于预测间隔的创建，并将其应用于一个模拟数据集和一个实际环境数据集中的测量交通噪声，结果表明该方法在预测间隔方面的整体性能要优于其他基于覆盖范围准则的模型。
machine learninguncertainty quantificationxgboostquantile regressionprediction intervals
发现论文，激发创造
  • 融合卫星和地面观测资料的降水不确定性机器学习估计

    通过对具有 15 年长期月度跨越美国的大型数据集进行广泛比较，本研究旨在首次进行基于机器学习的不确定性量化任务的基准测试，结论表明适用于此任务的学习器的能力排名分别为：LightGBM，QRF，GRF，GBM，QRNN 和 QR。

    Nov, 2023

  • Hyperboost: 通过梯度增强替代模型进行超参数优化

    本研究提出了一种基于梯度提升的代理模型，并使用分位数回归来提供未观察到的超参数设置的性能的乐观估计，同时结合未观察到和观察到的超参数设置之间的距离度量来帮助调节探索。经实证表明，该方法能够在一系列分类问题中优于一些最新的技术。

    Jan, 2021

  • 在异常值存在的情况下，使用 Beta 分位回归进行鲁棒估计不确定性

    基于鲁棒分位数回归和深度学习的方法，在关键特征异常值存在的情况下，提出了用于估计不确定性的方法，并在医学成像翻译任务中展示了其适用性。

    Sep, 2023

  • 机器学习中的不确定性量化 - 工程设计与健康预测教程

    本篇研究论文重点介绍了机器学习模型中的不确定性量化方法，特别关注神经网络以及在工程设计和医疗领域的应用。通过介绍多种不确定性量化方法和计量标准，本篇论文旨在帮助提高机器学习模型的安全性和可靠性，同时提供两个具体案例：锂离子电池寿命预测和涡轮发动机剩余使用寿命预测。

    May, 2023

  • 关于近贝叶斯最优算法的不确定性量化

    本文介绍了一种用于解决常用机器学习算法的贝叶斯推断问题的新方法，证明了通过构建一个 martingale 后验分布，可以恢复由任务分布定义的贝叶斯后验。同时提出了一种适用于通用机器学习算法的实用不确定性量化方法，实验证明了该方法的有效性。

    Mar, 2024

  • 卫星降水的空间插值中的不确定性估计与集成学习

    在空间插值和其他领域中，通过使用九种基于分位数的集成学习方法，将距离加权卫星降水数据与位置高程相结合，通过对比量化打分函数，证明了堆叠方法在提高概率预测方面的潜力。

    Mar, 2024

  • 对复杂动态系统中认识不确定性和随机不确定性量化的机器学习架构评估

    本研究比较了多种机器学习技术的 UQ 准确性，并对两个模型（船只在波浪中的运动和 Majda-McLaughlin-Tabak 模型）进行了应用。

    Jun, 2023

  • 深层证据学习用于贝叶斯分位数回归

    该论文提出了一种基于证据学习的深度贝叶斯分位回归模型，能够在没有高斯分布假设的情况下估计连续目标分布的分位数，同时捕捉不确定性和提高模型的可计算性和可扩展性。

    Aug, 2023

  • XGBoost：一个可扩展的树提升系统

    本文介绍了一种名为 XGBoost 的高可扩展的树提升系统，该系统采用稀疏数据的新型稀疏感知算法和加权分位数草图以实现近似树学习，结合了缓存访问模式、数据压缩和分片等方法，能够在使用远少于现有系统的资源情况下，扩展到数十亿个示例。

    Mar, 2016

  • 大规模概率回归的概率梯度提升机

    提出了一种名为 PGBM 的新方法，利用决策树的随机叶权重和随机树集更新方程逼近训练集中每个样本的均值和方差，从而实现单一模型预测概率分布，比传统方法速度快且效果更佳。

    Jun, 2021