标签转移下的PAC预测集
本文介绍一种基于分位数回归和树状结构分类器的符合性预测方法,可以有效解决多分类和多标签问题中难易样本分布不均匀、信心区间过大等挑战,且可以和任何分类模型结合使用并保证有效性。
Apr, 2020
本文介绍了一种基于黑盒预测器实现集值预测、控制用户指定水平下的未来测试点期望损失大小以及使用 holdout 集来校准优化预测集大小的方法,这种方法能够提供简单、分布自由和严密的误差控制,适用于多个任务,如分类问题、多标记分类、分类问题中带有层次结构的标签、图像分割和蛋白质结构预测,还有拓展探讨。
Jan, 2021
论文提出了一种新的、能够在存在协变量转移情况下构建可能准确的预测集的方法,该方法重点关注源分布与目标分布之间的协变量转移,假设给定了编码训练样本概率变化的重要性权重,从而实现了不确定性的量化。
Jun, 2021
在安全关键的分类任务中,我们提出了一种适用于含有模糊标签的情况的conformal prediction框架,在approximated的标签的基础上通过近似输入的后验分布来进行不确定性的校准。我们在合成和真实数据集上验证了我们的方法,并在皮肤病学中患者条件分类的案例研究中进行了实证。
Jul, 2023
我们提出了一种新的方法,可实现用户指定的错误率下的预测,并在此约束下优化预测集的大小,从而通过有效的医学人工智能模型和人工专家之间的合作,允许在临床决策中进行高效干预和质量检查。
Sep, 2023
通过进行全面的实验和比较性能分析,我们研究了皮肤病变分类任务中三种不确定性量化方法:Conformal Prediction、Monte Carlo Dropout和Evidential Deep Learning,发现Conformal Prediction在各种条件下表现出的鲁棒性和一致性,使其成为安全关键应用中决策的首选。
Dec, 2023
在高风险领域中部署深度神经网络时,由于缺乏可解释性,不确定性量化变得具有挑战性。本文通过大规模预注册实验,比较了使用符合性预测集合与Top-1和Top-k预测展示相比在AI辅助图像标注中表现的优势,并发现对易任务来说,预测集合与Top-1和Top-k展示的准确性相当或略少,但在标记超出分布范围的图像时,特别是当集合大小较小时,预测集合能够卓越地帮助人类进行标注。研究结果从实证角度指出符合性预测集合的实际挑战,并提供了将其纳入实际决策制定的启示。
Jan, 2024
通过在设定的概率内构建小的预测集合,拟合预测集合可量化网络不确定性。本研究针对带有噪声标签的校准问题,引入了一种对标签噪声具有鲁棒性的拟合得分。通过使用带有噪声标签的数据和噪声水平估算出无噪声的拟合得分,并在测试阶段使用该得分形成预测集合。我们将该算法应用于几个标准医学图像分类数据集,发现我们的方法在预测集合的平均大小方面明显优于当前方法,同时保持所需的覆盖率。
May, 2024
该研究解决了医疗影像分类器在高预测准确率下量化不确定性的问题,提出了一种算法,可以修改任何分类器以产生包含真实标签的预测集。实验结果表明,该方法在保持所需覆盖率的同时,显著减少了预测集的平均大小,优于现有方法。
Aug, 2024
本研究解决了在肺癌分类中,实际数据分布变化导致模型可靠性不足的问题。通过评估不同的不确定性估计方法(如蒙特卡洛丢弃、深度集成和少量学习),揭示了它们在临床相关数据分布变化下的表现和校准效果。研究发现,准确的预测不确定性估计显著增强了深度学习诊断决策系统的鲁棒性,具有重要的临床应用潜力。
Aug, 2024