Oct, 2023

基于标签排序的深度分类器的拟合预测

PDF
TL;DR通过理论和实验，本文证明了无视概率值可以减轻在 conformal prediction 中概率值失配所导致的大预测集的不良影响。然后，提出了一种名为 “Sorted Adaptive prediction sets” (SAPS) 的新算法，其丢弃除最大 softmax 概率以外的所有概率值，以最小化非符合度分数对概率值的依赖，同时保留不确定性信息，从而生成小型集合并传达逐个实例的不确定性。在理论上，提供了 SAPS 的有限样本覆盖保证，并证明了 SAPS 的预期集合大小始终小于 APS。广泛的实验验证了 SAPS 不仅减小了预测集，还显著提高了预测集的条件覆盖率和适应性。
发现论文，激发创造
  • 概率鲁棒可伸缩机器学习分类的整体预测

    通过引入得分函数的新定义和定义一组特殊的输入变量（conformal safety set），我们分析了可扩展分类器和一致预测之间的相似性，该安全集能够识别满足误差覆盖保证的输入空间模式，即在该集合中，观察到错误（可能不安全）标签的概率受到预定义的 ε 误差水平的限制。通过在网络安全中应用于识别 DNS 隧道攻击，我们展示了该框架的实际影响。我们的工作有助于发展概率稳健可靠的机器学习模型。

    Mar, 2024

  • 带有许多类别的类条件拟合预测

    本文提出了一种称为聚类置信预测的方法，该方法通过聚类类，将具有 “相似” 信心得分的类聚合在一起，然后在聚类水平上执行置信预测，进行分类问题中的更强的置信度验证，应用于多分类图像数据集中表现更加优秀。

    Jun, 2023

  • 一种对标签噪声具有鲁棒性的一致性预测得分

    通过在设定的概率内构建小的预测集合，拟合预测集合可量化网络不确定性。本研究针对带有噪声标签的校准问题，引入了一种对标签噪声具有鲁棒性的拟合得分。通过使用带有噪声标签的数据和噪声水平估算出无噪声的拟合得分，并在测试阶段使用该得分形成预测集合。我们将该算法应用于几个标准医学图像分类数据集，发现我们的方法在预测集合的平均大小方面明显优于当前方法，同时保持所需的覆盖率。

    May, 2024

  • 迈向人工智能与人类互补性的预测集

    采用贪婪算法，该论文发现了一种可比或更好性能的预测集构造方法，该方法能帮助基于预测集的决策支持系统有效解决分类任务。

    May, 2024

  • 模糊基准下的整形预测

    在安全关键的分类任务中，我们提出了一种适用于含有模糊标签的情况的 conformal prediction 框架，在 approximated 的标签的基础上通过近似输入的后验分布来进行不确定性的校准。我们在合成和真实数据集上验证了我们的方法，并在皮肤病学中患者条件分类的案例研究中进行了实证。

    Jul, 2023

  • 符合性预测教程

    该论文介绍了通过使用过去的经验来确定新预测的置信水平的改造预测方法，该方法可以应用于任何生成标签预测的方法，并且包括一些数值示例。

    Jun, 2007

  • 基于一致预测集的人类决策改善

    在这项研究中，我们通过进行一项预先注册的随机对照试验，提供给人类被试一些确定度集合，从而研究了确定度集合对人类决策的辅助作用。结果表明，使用确定度集合来量化模型的不确定性对于人机合作决策和人工智能团队非常有帮助。

    Jan, 2024

  • 增强标签排序校准的适用于每类覆盖的合拢预测

    针对不平衡分类任务的一种新的不确定性量化框架，Rank Calibrated Class-conditional CP (RC3P) 算法，通过降低预测集大小以实现类条件覆盖，对于每个类别都具有有效的覆盖保证。

    Jun, 2024

  • 评估基于变换预测集的 AI 辅助图像标注的实用性

    在高风险领域中部署深度神经网络时，由于缺乏可解释性，不确定性量化变得具有挑战性。本文通过大规模预注册实验，比较了使用符合性预测集合与 Top-1 和 Top-k 预测展示相比在 AI 辅助图像标注中表现的优势，并发现对易任务来说，预测集合与 Top-1 和 Top-k 展示的准确性相当或略少，但在标记超出分布范围的图像时，特别是当集合大小较小时，预测集合能够卓越地帮助人类进行标注。研究结果从实证角度指出符合性预测集合的实际挑战，并提供了将其纳入实际决策制定的启示。

    Jan, 2024

  • 学习最优拟合分类器

    本文探讨了在深度学习基础上进行置信区间预测的方法，并提出了一种基于置信区间训练的深度学习模型，该方法可有效地缩小置信边界，同时保证对医学诊断等高风险场景的准确性。

    Oct, 2021