数据异质性下的高效符合性预测

Dec, 2023

Efficient Conformal Prediction under Data Heterogeneity

Vincent Plassier, Nikita Kotelevskii, Aleksandr Rubashevskii, Fedor Noskov, Maksim Velikanov...

TL;DR一种对数据不可交换性建立了有效的置信区间的新方法，并在联邦学习中的数据异质性下构建了个性化预测集合，通过实验验证了该方法的有效性。

Abstract

conformal prediction (CP) stands out as a robust framework for uncertainty quantification, which is crucial for ensuring the reliability of predictions. However, common CP methods heavily rely on data exchangeability, a condition often violated in practice. Existing approaches for tack

conformal prediction uncertainty quantification non-exchangeability data heterogeneity federated learning

发现论文，激发创造

分布式不确定性量化的联邦一致预测器

本文将拟合预测应用于联邦学习环境，解决了数据异构问题，并提出了适用于联邦学习的局部可交换性概念，从而开发了联邦拟合预测框架（FCP）。实验证明该框架在计算机视觉和医学图像数据集上具有严格的理论保证和良好的经验性能，提供了在分布式和异构环境中结合有意义的不确定性量化的实用方法。

May, 2023

稳定的共形预测集

本论文将 CP 技术与经典算法稳定性界限相结合，提出了一种置信区间集合，可用单一模型拟合计算，并证明了该方法能够保证精度，避免了数据分割的需求，成功解决了传统方法无法处理连续未知变量 y_n+1 的瓶颈问题。

Dec, 2021

超越交换性的合拍预测

本文提出一种新的针对预测模型的 Conformal prediction 泛化方法，通过引入加权分位数来抵御数据分布漂移的影响，同时设计一种新的随机化技术，允许不对称处理数据点的算法。实验表明，该方法在数据点不可交换的情况下具有较高的鲁棒性，并且在数据点可交换情况下达到了与现有方法相同的覆盖率保证。

Feb, 2022

信息论视角下的符合预测

本研究利用信息论来将符合预测与其他不确定性概念相联系，并证明了三种不同的方法来上界内在不确定性，同时通过符合预测和信息论不等式的组合，实现了两种直接有用的应用：（i）更规范和有效的符合训练目标，从头开始实现机器学习模型的端到端训练，（ii）将旁路信息纳入符合预测的自然机制。我们在集中式和联邦学习环境中进行了实证验证，并证明了我们的理论结果能够转化为流行的符合预测方法的低效性（平均预测集大小）。

May, 2024

深度学习模型不确定性的置信度量化

本文探讨了在深度神经网络中表示模型不确定性的 Conformal Prediction 框架，提出了一种新的基于概率方法的模型不确定性量化方法，并提供了可靠的边界用于计算不确定度。

Jun, 2023

可验证的强健拟合预测

使用最新的神经网络验证方法，基于 VRCP（可验证鲁棒性适应预测）框架，本文提出了一种新的方法，用于恢复在遭受对抗攻击时的预测覆盖率保证，并支持任意范数的扰动和回归任务，实验结果表明，在图像分类和强化学习环境的回归任务中，VRCP 方法达到了超过标称覆盖率的结果，并且比目前最先进的方法更高效且信息量更丰富。

May, 2024

无标签条件下适应分布偏移的适应性符合性预测

通过两种新方法 ECP 和 EACP，根据基模型在未标记测试数据上的不确定性调整 CP 中的评分函数，从而仅使用测试域中的未标记数据改进 CP 生成的预测集的质量。通过对许多大规模数据集和神经网络架构进行广泛实验，我们展示了我们的方法相对于现有基准算法的持续改进，并几乎与监督算法的性能相匹配。

Jun, 2024

一般化与信息化的合拟预测

通过建立基础预测器的泛化性能与条件概率预测集成信息量之间的理论连接，本研究推导了一个上界，以便理解条件概率预测集的平均大小对校准数据量、目标可靠性和基础预测器的泛化性能的依赖关系。通过简单的数值回归和分类任务验证了理论洞察的有效性。

Jan, 2024

利用扩展准许的级联推断实现高效的符合预测

该研究提出了一种新颖的 conformal prediction（CP）方法，通过找到一组有前途的预测候选项而不是单个预测，以适合许多开放式分类任务，实现包含正确答案的高概率且适用于自然语言处理和药物发现等多个应用领域，同时实现降低预测集的大小和费用摊销等效果。

Jul, 2020

基于局部加权合拢预测的自动估值模型中的不确定性量化

非参数机器学习模型与符合预测是房地产市场数据中准确预测房屋价格的方法，但由于地理空间上的依赖，直接应用符合预测在不同地理区域的置信区间不完全校准。本研究调查了各种方法来调整符合预测的置信区间以解决此问题，并在挪威奥斯陆房地产市场数据集上验证其性能。研究结果表明，在非一致性分数的 extit {局部加权} 版本上校准置信区间可以在不同地理区域中一致地进行校准。我们还在合成生成的销售价格上进行了模拟研究，从而在已知数据生成机制的理想条件下实证探索符合预测在房地产市场数据上的性能。

Dec, 2023