May, 2024

可验证的强健拟合预测

PDF
TL;DR使用最新的神经网络验证方法，基于 VRCP（可验证鲁棒性适应预测）框架，本文提出了一种新的方法，用于恢复在遭受对抗攻击时的预测覆盖率保证，并支持任意范数的扰动和回归任务，实验结果表明，在图像分类和强化学习环境的回归任务中，VRCP 方法达到了超过标称覆盖率的结果，并且比目前最先进的方法更高效且信息量更丰富。
conformal predictionadversarial attacksrandomised smoothingvrcpneural network verification
发现论文，激发创造
  • 概率鲁棒一致预测

    概率鲁棒性调和的效果超过了标准的鲁棒性分类器和对抗性鲁棒性分类器，通过提供候选标签预测集合并对数据和扰动设定两个平行阈值，将概率鲁棒性调和引入到机器学习的不确定性量化框架中。

    Jul, 2023

  • 具有改进效率的可证实稳健拟合预测

    该研究提出了一种名为 RSCP + 的新框架，用于在评估中提供可靠的鲁棒性保证，同时提出了两种新的方法 PTT 和 RCT，以减少预测集大小并提供实际的鲁棒性保证。

    Apr, 2024

  • 一种对标签噪声具有鲁棒性的一致性预测得分

    通过在设定的概率内构建小的预测集合，拟合预测集合可量化网络不确定性。本研究针对带有噪声标签的校准问题，引入了一种对标签噪声具有鲁棒性的拟合得分。通过使用带有噪声标签的数据和噪声水平估算出无噪声的拟合得分，并在测试阶段使用该得分形成预测集合。我们将该算法应用于几个标准医学图像分类数据集，发现我们的方法在预测集合的平均大小方面明显优于当前方法，同时保持所需的覆盖率。

    May, 2024

  • RR-CP：基于可靠区域的医学图像分类的可信级别预测

    我们提出了一种新的方法，可实现用户指定的错误率下的预测，并在此约束下优化预测集的大小，从而通过有效的医学人工智能模型和人工专家之间的合作，允许在临床决策中进行高效干预和质量检查。

    Sep, 2023

  • 增强标签排序校准的适用于每类覆盖的合拢预测

    针对不平衡分类任务的一种新的不确定性量化框架，Rank Calibrated Class-conditional CP (RC3P) 算法，通过降低预测集大小以实现类条件覆盖，对于每个类别都具有有效的覆盖保证。

    Jun, 2024

  • 深度学习模型不确定性的置信度量化

    本文探讨了在深度神经网络中表示模型不确定性的 Conformal Prediction 框架，提出了一种新的基于概率方法的模型不确定性量化方法，并提供了可靠的边界用于计算不确定度。

    Jun, 2023

  • 信息论视角下的符合预测

    本研究利用信息论来将符合预测与其他不确定性概念相联系，并证明了三种不同的方法来上界内在不确定性，同时通过符合预测和信息论不等式的组合，实现了两种直接有用的应用：（i）更规范和有效的符合训练目标，从头开始实现机器学习模型的端到端训练，（ii）将旁路信息纳入符合预测的自然机制。我们在集中式和联邦学习环境中进行了实证验证，并证明了我们的理论结果能够转化为流行的符合预测方法的低效性（平均预测集大小）。

    May, 2024

  • 通过邻域符合预测改进深度分类器的不确定性量化：新算法和理论分析

    本研究提出了一种名为邻域适应序列预测（NCP）的新算法，通过利用神经网络的学习表示来识别给定测试输入的 k 个最近邻校准样例，并根据它们的距离分配重要性权重，创建自适应预测集，从而提高使用 CP 进行深度分类器的不确定性量化的效率。

    Mar, 2023

  • 数据异质性下的高效符合性预测

    一种对数据不可交换性建立了有效的置信区间的新方法，并在联邦学习中的数据异质性下构建了个性化预测集合，通过实验验证了该方法的有效性。

    Dec, 2023

  • 基于回归与分类的一致性预测

    将回归转化为分类问题，并使用分类的合作预测，以获取回归的合作预测集。

    Apr, 2024