- 图神经网络的条件偏移鲁棒一致性预测
使用符合预测(conformal prediction)技术,此论文提出了一种用于解决图半监督学习中图神经网络(GNN)预测不确定性问题的方法,该方法还引入了一种新的损失函数来优化模型预测,并在标准图基准数据集上进行了验证。
- ICML拟合干扰攻击下的适应性推断的优点与挑战
在安全关键应用领域如医学成像和自动驾驶中,维持高的对抗鲁棒性以保护免受潜在对抗攻击的影响,并进行可靠的不确定性量化对于决策至关重要。本研究通过使用合规性预测 (CP) 方法,探究了深度学习模型的不确定性,同时深入研究了合规性预测在对抗防御中 - 共形化物理信息神经网络
利用符合预测框架的一致预测神经网络(C-PINNs),量化 PINNs 的不确定性,通过提供具有有限样本、无分布统计有效性的区间,解决常规 PINNs 不提供不确定性量化的问题。
- ICML对于任何数据分布,存在一致有效性保证
机器学习系统中风险量化与控制的研究,集中在处理 ML 系统收集自身数据时产生的数据分布变化问题,通过扩展 conformal prediction 理论以适应任意数据分布,并提出了针对特定数据分布的可行算法,以解决这一挑战。
- 高效在线集合值分类与弱反馈
提出了基于类别的可信区间预测方法(BCCP),旨在解决在线学习中带有强化学习反馈的困境,通过随机梯度下降训练模型并进行多值推断,以实现类别特定的可信区间覆盖保证,并扩展了可信区间预测在在线决策环境中的可靠性和适用性。
- 一种对标签噪声具有鲁棒性的一致性预测得分
通过在设定的概率内构建小的预测集合,拟合预测集合可量化网络不确定性。本研究针对带有噪声标签的校准问题,引入了一种对标签噪声具有鲁棒性的拟合得分。通过使用带有噪声标签的数据和噪声水平估算出无噪声的拟合得分,并在测试阶段使用该得分形成预测集合。 - 使用符合预测法进行深度学习模型校准外检测
在遥感等关键应用中,深度学习模型的黑盒特性使其使用变得复杂。与数据可交换性相关的符合预测是一种能确保信任的方法,可提供有限样本覆盖保证,以用户定义的错误率为形式,确保预测集合包含真实类别。本文展示了符合预测算法与深度学习模型的不确定性相关, - 机器学习中有效不确定性量化的共形预测方法的比较研究
过去几十年,数据分析和机器学习领域的大部分工作都致力于优化预测模型,并取得比现有模型更好的结果。然而,本文指出对于很多应用而言,更加重要的并非准确的预测,而是变异性或不确定性。本文进一步探讨了让每个人了解不确定性、意识到其重要性并学会拥抱而 - 自然语言处理的保形预测:一项概述调查
快速增长的大型语言模型和自然语言处理(NLP)应用对不确定性量化提出了关键需求,以减轻幻象等风险并提高关键应用中的决策可靠性。条件预测正在成为一个理论上健全且实用的框架,结合了灵活性和强有力的统计保证。它的模型无关性和无分布性质使其特别有希 - 信息论视角下的符合预测
本研究利用信息论来将符合预测与其他不确定性概念相联系,并证明了三种不同的方法来上界内在不确定性,同时通过符合预测和信息论不等式的组合,实现了两种直接有用的应用:(i)更规范和有效的符合训练目标,从头开始实现机器学习模型的端到端训练,(ii) - 具有改进效率的可证实稳健拟合预测
该研究提出了一种名为 RSCP + 的新框架,用于在评估中提供可靠的鲁棒性保证,同时提出了两种新的方法 PTT 和 RCT,以减少预测集大小并提供实际的鲁棒性保证。
- 学习特征的符合预测
本文关注条件保证的合拟合预测问题,并提出了采用从校准数据中学习的不确定性引导特征来改进预测集的条件有效性的分区学习合拟合预测(PLCP)框架。我们在理论上分析了 PLCP,并对无限和有限样本大小提供了条件保证。最后,我们在四个真实世界和人工 - 度量导向的图像重建界限:基于一致预测
利用汇聚预测方法检索稀疏观察 CT 影像的上 / 下界限以及基于下游指标的统计异常值 / 正常值,通过实验证明基于指标引导的界限能够有效覆盖下游指标,而传统的像素界限则不能,并且展示了基于指标引导和像素界限的解剖差异。
- 训练条件覆盖界限对于均匀稳定学习算法的影响
我们从一致稳定性的角度研究全面稳定、杰克刀加和 CV + 预测区域的训练条件覆盖界限,这在具有凸正则化的再现核希尔伯特空间上的经验风险最小化中可靠,我们通过对(估计的)预测函数的集中性论证得出有限维模型的覆盖界限,并将其与岭回归下的现有界限 - 基于深度学习和符合预测的稳健废铁材料分类
本文介绍了如何利用一种称为 Split Conformal Prediction 的方法结合计算机视觉模型,如 Vision Transformer、Swin Transformer 和 ResNet-50,并加入可解释人工智能方法,用于在 - 符合语义图像分割:事后量化预测不确定性
我们提出了一种后续处理、计算轻量级的方法来量化语义图像分割的预测不确定性。我们的方法使用合拢预测生成统计上有效的预测集,以预定义的置信水平保证包含地面真实分割掩模。我们介绍了一种基于热图的合拢化预测的新型可视化技术,并提供了评估其实证有效性 - 基于回归与分类的一致性预测
将回归转化为分类问题,并使用分类的合作预测,以获取回归的合作预测集。
- 定价灾难债券 —— 概率式机器学习方法
本研究提出了一种基于概率机器学习的方法来定价首次市场的灾难债券。该方法将基于机器学习的预测模型与创新算法 Conformal Prediction 相结合,为灾难债券价格生成无分布偏差的概率预测。使用 1999 年 1 月至 2021 年 - 通过符合性放弃减轻 LLM 幻觉
我们开发了一个原则性的方法,确定一个大型语言模型在一般领域中,何时应该放弃回答而选择回答 “我不知道”,而不是胡言乱语或错误答案。通过使用自洽性作为一种更可靠的模型置信度度量的早期方法的基础上,我们提出使用语言模型本身来自我评估其对于给定查 - CONFLARE: 形式化大型语言模型检索
引入了一个四步框架,将符合性预测应用于量化检索不确定性,从而确保检索增强生成 (RAG) 的可信度。