Mar, 2023

自适应负证据深度学习在开放集半监督学习中的应用

PDF
TL;DR本文提出了一种新型框架，Adaptive Negative Evidential Deep Learning（ANEDL），它通过引入证据深度学习（EDL）作为异常检测器，利用不同的不确定性度量，设计自我训练和推理，以及新的自适应负优化策略解决半监督学习下的未知类别问题，实验证明其在四个数据集上优于现有的最新方法。
semi-supervised learningopen-set semi-supervised learningoutlier detectionevidential deep learningadaptive negative optimization
发现论文，激发创造
  • 一种用于开放集半监督学习的多任务课程框架

    本文提出了一种多任务课程学习框架，旨在解决开放集合 SSL 中的未知样本问题，通过同时训练模型的正常分类能力和未知样本的检测能力，成功地消除了未知样本的影响。

    Jul, 2020

  • 朝着真实的半监督学习

    本文提出一种基于伪标签的半监督学习方法，能够处理 open-world SSL 问题，并通过样本不确定性和类别分布先验知识等手段，为已知和未知类别的未标记数据生成可靠的类别分布感知型伪标签。该方法在多种常用数据集上表现良好，特别是在 CIFAR-100，ImageNet-100 和 Tiny ImageNet 数据集上的表现显著优于现有的最先进技术。

    Jul, 2022

  • OpenLDN: 学习发现新类别用于开放式半监督学习

    本文介绍了一种名为 OpenLDN 的方法，该方法针对半监督学习中存在的已标记数据和未标记数据来自于相同数据分布的困难，解决了开放世界半监督学习的问题，通过使用成对相似性损失来识别已知类别的样本，同时探测和聚类未标记数据中属于新类别的样本。实验结果表明，OpenLDN 在多个常用分类基准测试中都优于现有最佳方法，具有更好的准确性 / 训练时间折衷。

    Jul, 2022

  • 利用所有未标记数据提升半监督学习

    该论文提出两种新的技术（即熵值含义损失和自适应负样本学习），以更好地利用所有未标记的样本，并把它们与前沿的 FixMatch 框架相结合，通过多次实验在多个常见的 SSL 基准上表现出优越性能。

    Mar, 2023

  • 深度半监督学习算法的实际评估

    通过实现多种常用的 SSL 技术并在一系列实验中进行测试，研究发现简单基线方法的表现通常被低估，而 SSL 方法对标记和未标记数据的敏感性不同，当未标记数据集包含类外示例时性能可能会显著下降，因此我们提供了一个公共代码重现平台以帮助实现 SSL 技术在实际应用中的可行性。

    Apr, 2018

  • 智能地利用开放数据的强韧半监督学习

    通过学习理论的角度，我们提出了一种智能选择开放数据集的半监督学习框架 WiseOpen，通过基于梯度方差的选择机制选择友好子集来提高模型的 ID 分类能力，并且提出了两个实际变体 WiseOpen 通过采用低频率更新和基于损失的选择来降低计算开销，广泛实验证明 WiseOpen 的有效性超过了现有技术水平。

    May, 2024

  • 专家 / 模仿网络混合：可扩展的半监督学习框架

    本文提出了一个 semi-supervised learning (SSl) 的新方法：Mixture of Expert/Imitator Networks，该模型通过利用大量未标记数据来训练 imitator 网络模拟 expert 网络的标签分布，从而提高 text classification 任务的性能，实验结果表明该方法可适用于多种深度神经网络模型，并且性能随未标记数据的增加而提高。

    Oct, 2018

  • 证据深度学习中的不确定性知识

    本文揭示了 Evidential Deep Learning（EDL）中由不确定性值产生的证据信号的存在，并通过理论和实证研究证明了 EDL 的不确定性与误分类偏差之间的关联，从而揭示出 EDL 对 loss functions 的耦合情况。

    Oct, 2023

  • 开放场景半监督医学图像分类

    本文提出一种针对医疗图像分类领域的半监督学习方法，借助于新领域、新标签的未标记数据，采用基于双路径异常值估计和变分自动编码器预训练的方法，实现更好的开放场景下的分类表现。在实验中，该模型在不同的医疗学习场景下 Demonstrate 了更好的分类表现。

    Apr, 2023

  • 学习不完整数据时对抗性扰动的鲁棒性

    本文研究了在对抗性扰动的假设下，无标记数据在推断问题中的作用，并将两种主要的学习框架 —— 半监督学习（SSL）和分布式鲁棒学习（DRL）统一起来，并在新的复杂性度量基础上进行了一般化理论的构建。

    May, 2019