May, 2024

EntropyStop: 无监督深度异常检测与损失熵

PDF
TL;DR研究旨在研究异常值对训练阶段的影响，并提出了一种名为 Loss Entropy 的零标签熵度量来推断训练的最佳停止点，然后基于此开发了一种自动化的早停算法 EntropyStop，该算法通过在最大模型检测能力时停止训练来提升 AutoEncoder（AE）的性能。
unsupervised outlier detectiondeep outlier detectionensemble methodsloss entropyautomated early-stopping algorithm
发现论文，激发创造
  • 通过自动停止训练释放无监督深度异常检测的潜力

    通过引入一个新的名为 loss entropy 的指标，本文针对深度离群点检测模型中的超参选择问题进行研究，提出了一种能够在训练过程中自动识别最佳停止时机而无需标签的新算法，实验证明该算法不仅能够提高模型对超参的稳健性，而且可以优化模型性能并减少训练时间。

    May, 2023

  • 了解无人监督的超出分布检测的数据不变量

    该研究通过对不同基准和图像模态的大规模评估，表明目前最流行的无监督离群检测方法无法一致地优于基于预训练特征和 Mahalanobis 距离的简单异常检测器，并基于对训练数据集中的不变性的表征提出了一个无监督离群检测的特征描述，该特征被运用在 MahaAD 方法中，解释了其质量，并能用于解释无监督离群检测器的预测并提供未来评估的见解。

    Nov, 2021

  • 利用自监督排除分类器集合进行的外分布检测

    本论文提出一种基于深度学习和分类器集成的方法，通过独特的基于边界的损失函数来可靠地检测出分布外数据，同时在超过一些 OOD 检测基准上明显优于现有算法。

    Sep, 2018

  • 持续无监督的外部分布检测

    不断进行未标注 OOD 检测的新设置，使用融合 Mahalanobis 距离和最近邻方法的 U-OOD 评分函数，并设计了一种置信度缩放的少样本 OOD 检测器，大幅改善相关领域的强基准模型。

    Jun, 2024

  • 早期疾病发生预测中的数据集偏移问题的外部拒绝选项方法

    该研究提出了一种名为 Odrop 的方法，结合了 OOD 检测模型，并在健康和医疗数据中应用 OOD 检测，以减少数据集偏移对疾病预测准确性的影响。

    May, 2024

  • 深度集成多样性用于外部分布检测的可用性

    深度学习中用深度集成方法提升神经网络的鲁棒性能，在大规模图片数据集中使用互信息指标 (OOD）的检测效果比单一模型的熵指标要劣 30-40%，使用集成多个分类器的检测得分对 Deep Ensemble OOD 检测性能有着更好的提升表现 。

    Jul, 2022

  • 基于 OOD 训练数据的许多方法估计相同核心量的组合来分解 OD 检测

    本文旨在识别常见的目标，以及识别不同 OOD 检测方法的隐含评分函数。我们展示了许多方法在共享学习方式下表现相似，二进制区分器达到与异常暴露相似的 OOD 检测性能，还展示了置信度损失具有在理论上最优得分函数不同但与训练和测试 out-distribution 相同时的函数相似的隐含评分函数，从实践中发现，这些方法训练方式一致时都表现相似。

    Jun, 2022

  • 在自然环境中训练 OOD 检测器

    本文提出了一种基于野外混合数据的新颖框架，旨在改进在野外部署的机器学习模型的 OOD 检测能力，通过最大化 OOD 检测率并设定 ID 数据的分类误差和 ID 示例的 OOD 错误率的约束条件的学习目标，有效地解决了这个问题，并在常见的 OOD 检测任务中获得了优异的性能。

    Feb, 2022

  • 利用自我监督采样进行端到端的越界检测

    本论文提出了一种新的概率框架模型和一种无需 OOD 数据的自监督抽样模型 (SSOD)，以解决现有研究中的问题，并展示了这些模型在大规模基准测试上具有领先的性能.

    Jul, 2023

  • OOD 感知的有监督对比学习

    使用 SupCon 训练从训练分布中识别外分布样本是机器学习模型安全部署中的重要问题。我们在这项工作中运用强大的 SupCon 学习表征，并提出了一种全面的方法来学习对 OOD 数据稳健的分类器。我们通过增加两个对比项来扩展 SupCon 损失，第一个项将辅助 OOD 表征与 ID 表征分开，而不对辅助数据的相似性产生任何约束。第二个项将 OOD 特征远离现有类原型，并将 ID 表征推近其对应的类原型。当辅助 OOD 数据不可用时，我们提出了特征混合技术来高效生成伪 OOD 特征。我们的解决方案简单高效，作为闭集监督对比表征学习的自然扩展。我们在常见基准测试中与不同的 OOD 检测方法进行了比较，并展示了最先进的结果。

    Oct, 2023