Mar, 2018

对于对抗样本检测中不确定度度量的理解

PDF
TL;DR研究不同类型的不确定性测量方法及其在检测对抗性例子中的应用，揭示了 MC dropout 方法的不足，提出了利用概率模型集成来提高不确定性估计质量的建议。实验证明不同不确定性测量方法在 MNIST 和狗猫分类数据集上的不同效果。
uncertaintyadversarial examplesmutual informationmc dropoutprobabilistic model ensembles
发现论文，激发创造
  • 基于数据驱动的相对不确定度度量方法用于误分类检测

    引入了一种针对机器学习中误分检测的新型数据驱动相对不确定性度量方法，通过学习软预测的分布模式，可以根据预测的类别概率识别误分样本，并在多个图像分类任务中表现出超过现有误分检测方法的实证效果。

    Jun, 2023

  • 引入一种改良的信息论预测不确定性度量

    应用机器学习模型进行决策需要区分模型所知与不知的内容。本文提供新的洞见，揭示当前预测不确定性度量的局限性，并引入了一种理论上可靠的度量方法来克服这些局限。实验证明，我们引入的度量方法在控制的合成任务中表现得更加合理，并且在利用预测不确定性的实际应用中具有优势。

    Nov, 2023

  • 文件分类中的不确定性缓解

    本篇论文提出了一种基于神经网络和新型 dropout - 熵测量方法的模型以及基于特征表示的度量学习方法，可以更精确地预测，提高分类器的预测准确性，尤其在医学诊断等需要确定不确定预测的领域有广泛的应用。

    Jul, 2019

  • 不确定性量化的对抗性攻击

    机器学习模型容易受到对抗性示例的欺骗，对抗攻击针对的是不确定性量化技术，攻击的目标是操纵不确定性估计，实验结果表明这种攻击比诱导错误分类的攻击更有效。

    Sep, 2023

  • 对抗环境下模型不确定性的局限性

    研究机器学习模型中的对抗样本和贝叶斯神经网络的不确定性测量，并发现置信度和不确定性可能是无可疑的，即使输出是错误的；同时，对大多数任务，我们在影响不确定性和置信度方面发现微妙的差异。

    Dec, 2018

  • 对抗模型下不确定性的量化

    利用对抗模型量化不确定性提高估计认知不确定性的准确性，相较于现有方法，Quantification of Uncertainty with Adversarial Models 能够更好地捕捉深度学习模型中的认知不确定性。

    Jul, 2023

  • 估算和解释分类器不确定性的元启发式方法

    针对机器学习模型影响采纳的关键因素之一 —— 信任，本研究提出了一组特征量，可以表征一个实例的复杂程度，并借助元学习框架评估误分类的风险。该框架在提高模型开发的复杂性方面具有潜在的应用前景，同时提供新的模型自我阻抗和解释手段。

    Apr, 2023

  • 表征代理校准及消除标注员和数据偏差的不确定性来源

    本文提出了一种简单的 Monte Carlo Dropout 算法，可以显式地量化神经网络输出的不确定性，利用此种不确定性可以解释模型复杂现象、如情感识别，此外也可以用于辨别主观标记样本和数据偏差的问题。

    Sep, 2019

  • 基于不确定性的公平度量

    通过引入基于不同类型的不确定性，即不确定性度量和主观不确定性度量，证明了不确定性度量在公平性评估中的补充作用，并提供了关于导致偏见的潜在问题的更多见解。

    Dec, 2023

  • 深度学习中识别未知性的模糊度量

    我们研究深度神经网络在其训练范围内的理解。我们提出了一种量化模型输入的不确定性的度量方法，基于训练模型在特征空间中学习的决策边界的几何安排和训练集的凸包。使用这种不确定性度量，我们的模型能够在遇到不确定的输入时放弃分类，从而使模型在更广泛的输入中具有更高的准确性。通过理论框架，我们能够确定模型在其训练范围内未知的领域，并制定方法来识别这些领域，在这些领域中模型的置信度保持较高。

    Dec, 2023