Oct, 2023

基于模式识别的上下文化的异常检测

PDF
TL;DR本研究提出了 CODE 方法，它是一种可解释人工智能领域的扩展工作，用于识别类别特定的重复模式，以构建强大的用于视觉分类器的离群检测方法。CODE 不需要对分类器进行重新训练，且与离群分布无关，直接针对训练数据集进行调优。关键在于模式识别，使得我们能够提供来自内部分布数据集的图像作为参考数据，为置信度提供额外的上下文。此外，我们还引入了一种基于内部分布数据集的扰动的新基准，作为内部分布和离群分布数据集之间差异的已知可量化度量值，以用于比较离群检测方法。
发现论文，激发创造
  • 可解释的基于模式识别的场外检测

    该研究提出使用可解释 AI 领域的 PARTICUL 算法以构建更易解释、更具鲁棒性的视觉分类器的异常检测器，无需重新训练分类器，适用于缺乏明确定义的领域，并通过四个数据集和两个 OoD 定义的广泛基准测试证明了该方法的检测能力与现有方法相当，同时强调了分类器结构对鲁棒性的影响。

    Jan, 2023

  • 使用大型语言模型生成的同类对等生成器进行外部分布检测

    提出了一种名为 ODPC 的新方法，通过大型语言模型设计生成特定提示词来产生具有 ID 语义的 OOD 对等类，以便于检测，并采用基于 OOD 对等类的对比损失来学习紧凑的 ID 类别表示，并改善不同类别之间的界限清晰度。在五个基准数据集上进行的广泛实验表明，该方法可以得到最先进的结果。

    Mar, 2024

  • 语义一致的异常检测

    通过对抗高水平的对抗攻击在半先验条件下训练生成对抗网络来提高生成数据的多样性和质量。

    Aug, 2021

  • 基于置信度的越界检测：一项比较研究与分析

    通过对比研究和深度分析来评估各种最先进的方法对基于置信度的 OOD 检测的能力，并采用计算机视觉基准来复现和比较多种 OOD 检测方法。评估了它们在使用胸部 X 线进行疾病分类这一具有挑战性任务中的能力，结果表明在计算机视觉任务中高性能不直接转化为医学成像任务中的准确性，因此为开发下一代 OOD 检测方法提供了有用的见解。

    Jul, 2021

  • 基于 OOD 训练数据的许多方法估计相同核心量的组合来分解 OD 检测

    本文旨在识别常见的目标，以及识别不同 OOD 检测方法的隐含评分函数。我们展示了许多方法在共享学习方式下表现相似，二进制区分器达到与异常暴露相似的 OOD 检测性能，还展示了置信度损失具有在理论上最优得分函数不同但与训练和测试 out-distribution 相同时的函数相似的隐含评分函数，从实践中发现，这些方法训练方式一致时都表现相似。

    Jun, 2022

  • 在自然环境中训练 OOD 检测器

    本文提出了一种基于野外混合数据的新颖框架，旨在改进在野外部署的机器学习模型的 OOD 检测能力，通过最大化 OOD 检测率并设定 ID 数据的分类误差和 ID 示例的 OOD 错误率的约束条件的学习目标，有效地解决了这个问题，并在常见的 OOD 检测任务中获得了优异的性能。

    Feb, 2022

  • 统一的超领域检测：基于模型视角

    本文提出了一个更广泛的框架来研究模型针对特定因素（如未知类别、协变量变化等) 检测 out-of-distribution（OOD）问题，该框架能够检测出一个训练好的机器学习模型无法正确预测的测试样例，而是否拒绝该测试样例取决于模型本身，该文提供了大量分析和见解，用以改进和理解在不受控制的环境中的 OOD 检测。

    Apr, 2023

  • 医疗领域的离群样本检测基准测试

    本文定义三类 Out-of-Distribution Detection 的示例，并在医学图像的三个领域中对常见的方法进行基准测试。结果表明，尽管这些方法对某些类别的 OOB 样本产生良好结果，但它们未能识别接近训练数据分布的图像，作者发现简单的二元分类器在特征表示上具有最佳的平均精度和 AUPRC。

    Jul, 2020

  • 房间里的喧嚣大象：你的离群检测器对标签噪声是否鲁棒？

    通过对 20 种最先进的 OOD 检测方法进行大量实验，我们发现类标签噪声对 OOD 检测有重要影响，现有方法中错误分类的 ID 样本与 OOD 样本之间的差异较小是一个被忽视的限制。

    Apr, 2024

  • 利用扩散先验进行外部分布检测

    利用扩散模型的生成能力和 CLIP 的强大特征提取能力，我们提出了一种新颖的 OOD 检测方法，通过使用这些特征作为扩散模型的条件输入，我们可以在使用 CLIP 进行编码后重建图像。原始图像与重建图像之间的差异被用作 OOD 识别的信号，我们的方法不需要类别特定的标记，提高了实用性和可扩展性，且经过多个基准数据集的广泛实验证明了我们方法的鲁棒性和有效性。

    Jun, 2024