利用扩展准许的级联推断实现高效的符合预测

ICLRJul, 2020

利用扩展准许的级联推断实现高效的符合预测

Efficient Conformal Prediction via Cascaded Inference with Expanded Admission

Adam Fisch, Tal Schuster, Tommi Jaakkola, Regina Barzilay

TL;DR该研究提出了一种新颖的 conformal prediction（CP）方法，通过找到一组有前途的预测候选项而不是单个预测，以适合许多开放式分类任务，实现包含正确答案的高概率且适用于自然语言处理和药物发现等多个应用领域，同时实现降低预测集的大小和费用摊销等效果。

Abstract

In this paper, we present a novel approach for conformal prediction (CP), in which we aim to identify a set of promising prediction candidates -- in place of a single prediction. This set is guaranteed to contain a correct answer with high probability, and is well-suited for many open-

conformal prediction classification multiple candidates admissible answers cost amortization

发现论文，激发创造

信息论视角下的符合预测

本研究利用信息论来将符合预测与其他不确定性概念相联系，并证明了三种不同的方法来上界内在不确定性，同时通过符合预测和信息论不等式的组合，实现了两种直接有用的应用：（i）更规范和有效的符合训练目标，从头开始实现机器学习模型的端到端训练，（ii）将旁路信息纳入符合预测的自然机制。我们在集中式和联邦学习环境中进行了实证验证，并证明了我们的理论结果能够转化为流行的符合预测方法的低效性（平均预测集大小）。

May, 2024

基于特征一致性预测的预测推断

本文提出了基于特征空间的符合性预测方法，利用深度学习的归纳偏差将该方法扩展到语义特征空间，从理论上证明其在温和假设下优于传统方法，并且结合不仅限于普通的符合性预测算法，还可以与其他自适应符合性预测方法结合，从现有的预测推断 benchmark 以及 ImageNet 分类和 Cityscapes 图像分割等大规模任务的实验中证明了该方法的最佳性能。

Oct, 2022

学习最优拟合分类器

本文探讨了在深度学习基础上进行置信区间预测的方法，并提出了一种基于置信区间训练的深度学习模型，该方法可有效地缩小置信边界，同时保证对医学诊断等高风险场景的准确性。

Oct, 2021

一般化与信息化的合拟预测

通过建立基础预测器的泛化性能与条件概率预测集成信息量之间的理论连接，本研究推导了一个上界，以便理解条件概率预测集的平均大小对校准数据量、目标可靠性和基础预测器的泛化性能的依赖关系。通过简单的数值回归和分类任务验证了理论洞察的有效性。

Jan, 2024

数据异质性下的高效符合性预测

一种对数据不可交换性建立了有效的置信区间的新方法，并在联邦学习中的数据异质性下构建了个性化预测集合，通过实验验证了该方法的有效性。

Dec, 2023

文本补全和词性预测的适应性预测

本研究提出基于收缩预测算法的文本填充和词性预测算法，并将其应用于自然语言数据处理中。通过在波士顿语料库中进行仿真实验，结论表明该算法能够生成有效的置信区间，并在机器语音转录中有改进应用。

Nov, 2021

通过影响函数在规模上近似实现全面的共形预测

本文介绍了使用影响函数来高效近似全面的相合预测方法。该方法是全面相合预测的一种一致性逼近，并能比主流的方法更有效地缩放。

Feb, 2022

学习特征的符合预测

本文关注条件保证的合拟合预测问题，并提出了采用从校准数据中学习的不确定性引导特征来改进预测集的条件有效性的分区学习合拟合预测（PLCP）框架。我们在理论上分析了 PLCP，并对无限和有限样本大小提供了条件保证。最后，我们在四个真实世界和人工合成数据集上的实验证明了 PLCP 在分类和回归场景中相对于最先进方法在覆盖率和长度方面的卓越表现。

Apr, 2024

稳定的共形预测集

本论文将 CP 技术与经典算法稳定性界限相结合，提出了一种置信区间集合，可用单一模型拟合计算，并证明了该方法能够保证精度，避免了数据分割的需求，成功解决了传统方法无法处理连续未知变量 y_n+1 的瓶颈问题。

Dec, 2021

基于回归与分类的一致性预测

将回归转化为分类问题，并使用分类的合作预测，以获取回归的合作预测集。

Apr, 2024