May, 2020

符合性预测：理论和新挑战的统一综述

PDF
TL;DR本文综述了关于符合预测的基本思想和新发展 —— 一种革新的无分布、非参数预测方法，基于最少的假设，能够以一种非常简单的方式得出在统计意义上的预测集，本文详细讨论了符合预测的理论基础，然后列举了原始思想的更高级的发展和适应方法。
conformal predictiondistribution-freenon-parametricstatisticalpredictions sets
发现论文，激发创造
  • 信息论视角下的符合预测

    本研究利用信息论来将符合预测与其他不确定性概念相联系，并证明了三种不同的方法来上界内在不确定性，同时通过符合预测和信息论不等式的组合，实现了两种直接有用的应用：（i）更规范和有效的符合训练目标，从头开始实现机器学习模型的端到端训练，（ii）将旁路信息纳入符合预测的自然机制。我们在集中式和联邦学习环境中进行了实证验证，并证明了我们的理论结果能够转化为流行的符合预测方法的低效性（平均预测集大小）。

    May, 2024

  • 基于特征一致性预测的预测推断

    本文提出了基于特征空间的符合性预测方法，利用深度学习的归纳偏差将该方法扩展到语义特征空间，从理论上证明其在温和假设下优于传统方法，并且结合不仅限于普通的符合性预测算法，还可以与其他自适应符合性预测方法结合，从现有的预测推断 benchmark 以及 ImageNet 分类和 Cityscapes 图像分割等大规模任务的实验中证明了该方法的最佳性能。

    Oct, 2022

  • 符合性预测教程

    该论文介绍了通过使用过去的经验来确定新预测的置信水平的改造预测方法，该方法可以应用于任何生成标签预测的方法，并且包括一些数值示例。

    Jun, 2007

  • 一个温和的介绍：拟合预测及无分布不确定性量化

    介绍一种无需分布假设或模型假设，可用于任何预训练模型（如神经网络）生成 100% 正确性置信区间（信赖区间）的方法， 称之为一致预测；并提供了 Python 示例代码和 Jupyter 笔记本来说明此方法在计算机视觉、自然语言处理和深度强化学习等领域上的应用。

    Jul, 2021

  • 自然语言处理的保形预测：一项概述调查

    快速增长的大型语言模型和自然语言处理（NLP）应用对不确定性量化提出了关键需求，以减轻幻象等风险并提高关键应用中的决策可靠性。条件预测正在成为一个理论上健全且实用的框架，结合了灵活性和强有力的统计保证。它的模型无关性和无分布性质使其特别有希望解决源于 NLP 系统缺乏不确定性量化的现有缺点。本文对条件预测技术、其保证以及 NLP 中的现有应用进行了全面调研，指出了未来研究的方向和面临的挑战。

    May, 2024

  • 带区间估计的一致预测

    提出了一种名为局部一致性预测的新方法，它可以仅使用新测试样本周围的局部区域来构建置信区间，旨在将数据互换性打破为测试样本赋予特殊角色的情况下，推广了一致性预测方法，并证明了其假设无关与有限样本覆盖保证，并在模拟中比较了局部一致性预测和一致性预测的行为。

    Aug, 2019

  • 离散的拟合预测用于高效无分布推断

    本文提出离散化的符合预测算法，它们可以保证在计算成本和预测准确性之间提供平衡，适用于在回归问题中构建可以覆盖目标值的预测区间。

    Sep, 2017

  • 本地化拟合预测：一种基于推理的拟合预测通用框架

    本文提出一种名为局部合规预测的新的推理框架，它通过提供围绕测试样本的局部区域的自适应构建的单次测试样本，以及与不同合规得分结构相结合，来推广合规预测的框架。该框架享有无假设的有限样本边际覆盖保证，并在适当的假设条件下提供额外的局部覆盖保证。我们展示了如何使用多个合规分数从合规预测变为局部合规预测，并通过数值实例说明了潜在的收益。

    Jun, 2021

  • 跨拟合预测器

    介绍了交叉一致性预测方法，它是归纳一致性预测和交叉验证方法的混合，经验上研究了它的有效性和预测效率。

    Aug, 2012

  • 有限样本高效的符合预测

    本文研究了如何给定一个机器学习算法家族获得最小的符合性预测区域，提供了两种通用选择算法，考虑到预测区域的覆盖率和宽度特性。

    Apr, 2021