COLEP：基于概率电路的可保证鲁棒学习推理合规预测

ICLRMar, 2024

COLEP：基于概率电路的可保证鲁棒学习推理合规预测

COLEP: Certifiably Robust Learning-Reasoning Conformal Prediction via Probabilistic Circuits

Mintong Kang, Nezihe Merve Gürel, Linyi Li, Bo Li

TL;DR通过概率电路建立可靠的学习推理一致性预测框架（COLEP），致力于在有界对抗扰动存在的情况下提供准确和高效的预测覆盖度，证明 COLEP 在不同数据集上的鲁棒一致性预测能力并实现了一定的提升。

Abstract

conformal prediction has shown spurring performance in constructing statistically rigorous prediction sets for arbitrary black-box machine learning models, assuming the data is exchangeable. However, even small adversarial perturbations during the inference can violate the exchangeabil

conformal prediction robust learning certification probabilistic circuits prediction coverage

发现论文，激发创造

可验证的强健拟合预测

使用最新的神经网络验证方法，基于 VRCP（可验证鲁棒性适应预测）框架，本文提出了一种新的方法，用于恢复在遭受对抗攻击时的预测覆盖率保证，并支持任意范数的扰动和回归任务，实验结果表明，在图像分类和强化学习环境的回归任务中，VRCP 方法达到了超过标称覆盖率的结果，并且比目前最先进的方法更高效且信息量更丰富。

May, 2024

概率鲁棒一致预测

概率鲁棒性调和的效果超过了标准的鲁棒性分类器和对抗性鲁棒性分类器，通过提供候选标签预测集合并对数据和扰动设定两个平行阈值，将概率鲁棒性调和引入到机器学习的不确定性量化框架中。

Jul, 2023

学习特征的符合预测

本文关注条件保证的合拟合预测问题，并提出了采用从校准数据中学习的不确定性引导特征来改进预测集的条件有效性的分区学习合拟合预测（PLCP）框架。我们在理论上分析了 PLCP，并对无限和有限样本大小提供了条件保证。最后，我们在四个真实世界和人工合成数据集上的实验证明了 PLCP 在分类和回归场景中相对于最先进方法在覆盖率和长度方面的卓越表现。

Apr, 2024

具有改进效率的可证实稳健拟合预测

该研究提出了一种名为 RSCP + 的新框架，用于在评估中提供可靠的鲁棒性保证，同时提出了两种新的方法 PTT 和 RCT，以减少预测集大小并提供实际的鲁棒性保证。

Apr, 2024

通过基于物理信息的结构因果模型实现鲁棒的分布偏移下的符合性预测

通过使用物理信息的结构性因果模型 (PI-SCM) 来减小上界，我们验证了 PI-SCM 在置信水平和测试领域上对交通速度预测任务和多个真实世界数据集上的流行病传播任务的覆盖鲁棒性的提升。

Mar, 2024

具有可证明的拜占庭鲁棒性的联邦共形预测

在分布式数据样本中，介绍了 Rob-FCP 框架用于对付具有恶意客户端的鲁棒联邦一致性预测，理论上证明了 Rob-FCP 的一致性覆盖界限，并展示了 Rob-FCP 在拜占庭场景下与期望覆盖水平渐近接近，同时提出了一个用于估计恶意客户端数量的方法，在多种拜占庭攻击下，在五个标准基准和实际医疗数据集上经验证明了 Rob-FCP 的鲁棒性。

Jun, 2024

通过凸优化实现具有约束条件的概率电路

该研究通过将概率命题逻辑约束集成到概率电路所编码的分布中，提出了一种有效的方法来改善模型在数据稀缺或不完整情况下的性能，并在不损害模型适应性的同时，将机器学习公平性度量应用到模型中。

Mar, 2024

基于符合预测的深度分类器的证据不确定性集合

利用证据一致性预测方法（ECP）为图像分类器生成一致性预测集，通过基于非一致性评分函数，利用目标标签的对数几率值推导出的证据计算非一致性评分函数的组成部分：一致性预测中的不确定性启发式概念、不确定性惊喜度和期望效用，实验评估结果证明，ECP 在生成一致性预测集方面优于三种先进方法，同时保持了对真实标签的覆盖。

Jun, 2024

共形上下文鲁棒优化

基于数据驱动的方法预测后优化决策问题，使用非凸生成模型的情景预测区域构建了 Conformal-Predict-Then-Optimize（CPO）框架，保证了鲁棒性，并通过提供可视化的不确定性区域的语义化摘要，为最优决策提供了定性的直觉。

Oct, 2023

学习归纳态度预测的 PAC-Bayes 泛化证明

在这项工作中，我们使用 PAC-Bayes 理论获得了关于集合值预测器的覆盖率和效率的泛化界限，可以直接优化以最大化效率，同时满足所需的测试覆盖率，并利用这些理论结果提供了一种利用校准数据对模型和评分函数的参数进行微调，并确保所得预测集的测试覆盖率和效率的实际算法。

Dec, 2023