Aug, 2023

集成不确定性度量以提高黑盒分类器的安全性

PDF
TL;DRSPROUT 是一种安全封装方法，通过对黑匣子分类器的输入和输出进行不确定性度量，检测分类错误并阻止其输出对整个系统的影响。SPROUT 能够识别监督分类器中的大部分分类错误，并且在特定情况下能够检测出所有错误分类。
machine learningmisclassificationssproutsafety wrapperuncertainty measures
发现论文，激发创造
  • 文件分类中的不确定性缓解

    本篇论文提出了一种基于神经网络和新型 dropout - 熵测量方法的模型以及基于特征表示的度量学习方法，可以更精确地预测，提高分类器的预测准确性，尤其在医学诊断等需要确定不确定预测的领域有广泛的应用。

    Jul, 2019

  • 基于数据驱动的相对不确定度度量方法用于误分类检测

    引入了一种针对机器学习中误分检测的新型数据驱动相对不确定性度量方法，通过学习软预测的分布模式，可以根据预测的类别概率识别误分样本，并在多个图像分类任务中表现出超过现有误分检测方法的实证效果。

    Jun, 2023

  • 集成模型在超音速流动操作员学习中胜过单一模型的不确定性和预测

    在本研究中，我们使用三种不同的不确定性量化机制（均值方差估计、证据不确定性和集成）扩展了一个具有不确定性感知能力的 DeepONet 模型，并使用在各种马赫数和高度下通过计算流体力学生成的数据对该模型进行了训练和评估。我们发现，在插值和外插值范围内，集成方法在最小化误差和校准不确定性方面表现优于其他两种不确定性模型。

    Oct, 2023

  • 医疗领域的不确定性封装：在实践中确立透明的不确定性量化方法，针对非透明的机器学习模型

    本文展示了不确定性包装器在医学领域中与可靠方法和透明不确定性量化相结合的机器学习模型的应用和实用价值，以流式细胞术作为一个示例。

    Nov, 2023

  • 基于决策树模型的 AI 模型不确定性估计的硬边界缓解研究

    本文旨在改善不确定性包装器框架的决策树过于严格的聚类方法，以降低不确定性估计的硬性决策边界，最终通过与 Brier 得分的实验结果以及数据驱动 AI 模型的不确定性等关键词，研究了五种减轻硬性边界的方法，其中以随机森林为最有前景的方法。

    Jan, 2022

  • 可靠的不确定性与便宜的神经网络集成：工业零件分类的案例研究

    本研究比较了单一神经网络、深度集合和三种高效神经网络集合的性能，结果表明批量集合是一种性价比高且与深度集合相比在不确定性和准确性方面表现更好的替代方案。

    Mar, 2024

  • 估算和解释分类器不确定性的元启发式方法

    针对机器学习模型影响采纳的关键因素之一 —— 信任，本研究提出了一组特征量，可以表征一个实例的复杂程度，并借助元学习框架评估误分类的风险。该框架在提高模型开发的复杂性方面具有潜在的应用前景，同时提供新的模型自我阻抗和解释手段。

    Apr, 2023

  • 利用不确定性估计来提高分类器性能

    模型得分和不确定性对决策边界的选择有关，该研究提供了理论分析和经验证据来证明模型得分估计偏差依赖于不确定性和得分本身，通过动态规划和保序回归算法提出的方案在三个真实数据集上比传统的只使用模型得分方法，在高精确度边界下获得了 25％-40％的召回率提升，凸显了利用不确定性的好处。

    Nov, 2023

  • 使用深度集成实现简单且可扩展的预测不确定性估计

    本研究提出了一种替代贝叶斯 NN 的简单实现方法，其能够产生高质量的预测不确定性估计，并在分类和回归数据集上进行了实验以证明这一点。此外，研究还评估了在已知和未知数据分布下的预测不确定性，并证明该方法能够在超出分布的样本上表现出更高的不确定性，同时在 ImageNet 上证明了该方法的可扩展性。

    Dec, 2016

  • 通过不确定性量化增强基于机器学习的网络入侵检测的可信度

    本文探讨了基于机器学习的入侵检测系统在准确度不确定性方面的挑战和应用，强调了准确度不确定性对提高 ML-IDS 的可信度的重要性，并通过对网络入侵检测领域的不同 ML 方法进行比较和验证，表明准确度不确定性的适当估计可以显著增强 ML-IDS 的可信度。此外，结果还确认传统基于前馈神经网络的 ML 方法可能不适合在网络入侵检测中使用。

    Sep, 2023