Jan, 2024

高斯过程替代评估的保证覆盖的一致方法

PDF
TL;DR通过将非一致性得分与高斯过程的后验标准差加权，提出了构建自适应交叉一致性预测区间的方法，这些预测区间具有类似于贝叶斯可信区间的适应性水平，并且在没有基础模型假设的情况下具有频率覆盖保证，可以用于评估高斯过程代理模型的质量，并帮助决策者选择最适合特定应用的最佳先验。
发现论文，激发创造
  • 高斯过程回归中的 Frequentist 覆盖率和 sup-norm 收敛速率

    本文提出了一种通用框架来理解高斯过程回归中点估计和同时贝叶斯可信区间的频率覆盖率，并通过最优化的变量证明了高斯过程回归具有最小化相对于最高模数的后收缩率。

    Aug, 2017

  • 高斯过程回归的保证覆盖预测区间

    基于一种称为 Conformal Prediction 的机器学习框架的 GPR 扩展，可以在模型完全错误指定的情况下保证产生所需覆盖范围的 PI，实验结果表明其优于现有方法。

    Oct, 2023

  • 机器翻译评估的共形化

    本文研究机器翻译的不确定性评估方法，发现目前大多数方法对模型不确定性的估计较低，建议采用分布自由的合规预测法来保证覆盖度，并提出条件合规预测技术来获得每个数据子组的校准子集，从而实现覆盖率均衡。

    Jun, 2023

  • 基于局部加权合拢预测的自动估值模型中的不确定性量化

    非参数机器学习模型与符合预测是房地产市场数据中准确预测房屋价格的方法，但由于地理空间上的依赖，直接应用符合预测在不同地理区域的置信区间不完全校准。本研究调查了各种方法来调整符合预测的置信区间以解决此问题，并在挪威奥斯陆房地产市场数据集上验证其性能。研究结果表明，在非一致性分数的 extit {局部加权} 版本上校准置信区间可以在不同地理区域中一致地进行校准。我们还在合成生成的销售价格上进行了模拟研究，从而在已知数据生成机制的理想条件下实证探索符合预测在房地产市场数据上的性能。

    Dec, 2023

  • 通过高斯过程回归代理进行时间序列预测的不确定性估计

    本研究提出了一种基于替代高斯过程模型的新的不确定性估计方法，能够为任何基础模型提供准确的不确定性估计，并证明该方法在时序预测数据方面比基于引导的方法在中小型数据区域和不同系列的基础模型，包括线性回归，ARIMA 和梯度提升中提供更准确的置信区间。

    Feb, 2023

  • 使用符合量化回归优化超参数

    本文提出了一种利用基于置信度的分位数回归的超参数优化算法，相较于传统高斯过程模型，它能够更加真实和鲁棒地建模目标函数，加速超参数优化过程，并在多保真度场景下比传统方法表现更好。

    May, 2023

  • 参数高斯过程回归器

    提出了两种可扩展的高斯过程回归方法，通过应用变分推断和直接处理后验预测分布来改善模型预测不确定性。

    Oct, 2019

  • 贝叶斯回归和分类高斯过程模型的蒙特卡罗实现

    本文提出了使用高斯过程模型来进行非参数回归，分类等任务，通过使用马尔科夫链方法对高斯过程的协方差函数的超参数进行采样，可以发现数据的高级特性并实现预测响应所需输入的相关性。

    Jan, 1997

  • 伪贝叶斯优化

    采用拟贝叶斯优化的框架，通过利用简单的局部回归和随机化先验构建来量化不确定性，并保证收敛性，有效地优化高维度的综合实验、超参数调整和机器人应用的例子中胜过最先进的基准测试。

    Oct, 2023

  • 机器学习中有效不确定性量化的共形预测方法的比较研究

    过去几十年，数据分析和机器学习领域的大部分工作都致力于优化预测模型，并取得比现有模型更好的结果。然而，本文指出对于很多应用而言，更加重要的并非准确的预测，而是变异性或不确定性。本文进一步探讨了让每个人了解不确定性、意识到其重要性并学会拥抱而不是害怕不确定性的世界，对一种确定性估计准确性的具体框架 —— 被称为 “符合性预测” 的框架进行了细致研究。而且，无需对数据进行参数假设，这一非参数结果在渐近程度上也不必依赖大数定律，使得这个框架成为唯一值得称为 “无分布假设” 的框架。

    May, 2024