Apr, 2019

协变量转移下的一致性预测

PDF
TL;DR本文提出拓展 Conformal Prediction 方法，可计算在测试和训练协变量分布不同的情况下的无分布预测区间，同时在数据满足一定加权交换性的情况下，拓展还可以应用于其他设置，如潜在变量和缺失数据问题。
conformal predictionprediction intervalsweighted versioncovariate distributionslatent variable
发现论文，激发创造
  • 超越交换性的合拍预测

    本文提出一种新的针对预测模型的 Conformal prediction 泛化方法，通过引入加权分位数来抵御数据分布漂移的影响，同时设计一种新的随机化技术，允许不对称处理数据点的算法。实验表明，该方法在数据点不可交换的情况下具有较高的鲁棒性，并且在数据点可交换情况下达到了与现有方法相同的覆盖率保证。

    Feb, 2022

  • 利用特权信息的健壮合拢预测

    我们开发了一种方法，用于生成预测集，其覆盖率在训练数据中存在缺失或噪声变量等损坏情况下是健壮的。我们的方法基于符合性预测，这是一种强大的框架，用于构建在独立同分布假设下有效的预测集。重要的是，简单地应用符合性预测在这种情况下不能提供可靠的预测，因为由损坏引起的分布偏移。为了考虑到分布偏移，我们假设可以访问特权信息（PI）。特权信息被形式化为解释分布偏移的附加特征，然而，它们仅在训练期间可用，在测试时不可用。我们通过引入一种新的加权符合性预测的广义方法来解决这个问题，并支持我们的方法具有理论上的覆盖率保证。在真实数据集和合成数据集上的实证实验表明，我们的方法实现了有效的覆盖率，并构建了比现有方法更具信息性的预测，这些方法不受理论保证支持。

    Jun, 2024

  • 协变量漂移下的一致性预测系统

    该论文提出了一种适应协变量偏移的加权一致性预测系统（WCPS），通过利用训练和测试协变量分布之间的似然比，构建非参数预测分布，并通过模拟实验证明了其在协变量偏移下的概率校准性。

    Apr, 2024

  • 缺失值下的符合预测

    本文研究缺失值为特征的预测问题，提出了基于缺失数据增广的广义预测方法，可以有效地提高预测效果和抵抗缺失值的影响。

    Jun, 2023

  • 分布偏移下的自适应符合推断

    本文提出了一种自适应的线上学习方法 - 自适应符合推断方法，该方法结合了预测集和符合推断的思想，能够在任何黑箱模型中实现长时间内预期的覆盖概率，从而解决了数据变化扰动的问题。

    Jun, 2021

  • 带区间估计的一致预测

    提出了一种名为局部一致性预测的新方法，它可以仅使用新测试样本周围的局部区域来构建置信区间，旨在将数据互换性打破为测试样本赋予特殊角色的情况下，推广了一致性预测方法，并证明了其假设无关与有限样本覆盖保证，并在模拟中比较了局部一致性预测和一致性预测的行为。

    Aug, 2019

  • 基于保序化的分位数回归

    本文介绍了一种新的预测方法，将 Conformal prediction 和经典的 quantile regression 相结合，使其完全适应异方差性，并且能够在不做分布假设的情况下，建立具有有效覆盖率的预测区间，相比其他 conformal 方法，本文提出的方法具有更高的效率和更短的预测区间。

    May, 2019

  • 对于任何数据分布，存在一致有效性保证

    机器学习系统中风险量化与控制的研究，集中在处理 ML 系统收集自身数据时产生的数据分布变化问题，通过扩展 conformal prediction 理论以适应任意数据分布，并提出了针对特定数据分布的可行算法，以解决这一挑战。

    May, 2024

  • 无标签条件下适应分布偏移的适应性符合性预测

    通过两种新方法 ECP 和 EACP，根据基模型在未标记测试数据上的不确定性调整 CP 中的评分函数，从而仅使用测试域中的未标记数据改进 CP 生成的预测集的质量。通过对许多大规模数据集和神经网络架构进行广泛实验，我们展示了我们的方法相对于现有基准算法的持续改进，并几乎与监督算法的性能相匹配。

    Jun, 2024

  • 使用条件直方图的等形预测

    本文开发了一种符合性方法，用于计算自适应于倾斜数据的非参数回归预测区间，利用黑盒机器学习算法用直方图估计结果的条件分布，将它们转化为具有近似条件覆盖的最短预测区间，数值实验表明，与最先进的相关方法相比，这些结果在有限样本情况下可以得到较好的表现，并且如果黑盒模型一致，则渐近达到条件覆盖和最优长度。

    May, 2021