CVPRMay, 2023

稳健半监督学习的分布外语义修剪

PDF
TL;DR本文提出了一种新的架构，称之为 OOD Semantic Pruning（OSP），旨在将 Out-of-Distribution（OOD）数据从 In-Distribution（ID）数据中剪除，从而缓解数据语义层面上的污染问题，提升半监督学习的鲁棒性能。该方法经过实验证明，在各项基准测试中表现出色，超越了之前的最佳结果。
semi-supervised learningout-of-distributionoodsemantic pruningorthogonality regularization
发现论文，激发创造
  • 垃圾变宝藏：通过跨模态匹配收集 OOD 数据，用于开放式半监督学习

    本文提出了一种新的开放式半监督学习方法，通过预热训练、交叉模态匹配等手段，在不将数据集中的 OOD 样本完全过滤掉的前提下，实现了更好的特征学习并判断 OOD 样本，取得了比现有技术更优的性能。

    Aug, 2021

  • 语义一致的异常检测

    通过对抗高水平的对抗攻击在半先验条件下训练生成对抗网络来提高生成数据的多样性和质量。

    Aug, 2021

  • 利用自我监督采样进行端到端的越界检测

    本论文提出了一种新的概率框架模型和一种无需 OOD 数据的自监督抽样模型 (SSOD)，以解决现有研究中的问题，并展示了这些模型在大规模基准测试上具有领先的性能.

    Jul, 2023

  • 全谱外部分布检测的似然感知语义对齐

    提出一种称为 Likelihood-Aware Semantic Alignment（LSA）的框架，以促进图像和文本的对应关系，针对全谱带外分布检测进行语义相关性的调整，并在复杂的领域转换中适应性地识别有正常分布的样本。

    Dec, 2023

  • OOD 感知的有监督对比学习

    使用 SupCon 训练从训练分布中识别外分布样本是机器学习模型安全部署中的重要问题。我们在这项工作中运用强大的 SupCon 学习表征，并提出了一种全面的方法来学习对 OOD 数据稳健的分类器。我们通过增加两个对比项来扩展 SupCon 损失，第一个项将辅助 OOD 表征与 ID 表征分开，而不对辅助数据的相似性产生任何约束。第二个项将 OOD 特征远离现有类原型，并将 ID 表征推近其对应的类原型。当辅助 OOD 数据不可用时，我们提出了特征混合技术来高效生成伪 OOD 特征。我们的解决方案简单高效，作为闭集监督对比表征学习的自然扩展。我们在常见基准测试中与不同的 OOD 检测方法进行了比较，并展示了最先进的结果。

    Oct, 2023

  • 鲁棒语言模型的伪 OOD 训练

    本文提出 POORE - POsthoc pseudo-Ood REgularization 框架，通过在内部数据中生成伪 OOD 数据进行 fine-tune，通过引入新的正则化损失来分离 IND 和 OOD 数据的嵌入，提高了 OOD 预测任务的准确度，相较现有方法在三个实际对话系统上获得了最新的技术进展。

    Oct, 2022

  • 未标记数据的开放集半监督学习中的探索和利用

    本文探讨半监督学习中的开放集问题，提出了基于原型的聚类和识别算法以及基于重要性采样的方法，针对多项挑战性基准测试取得最优成果。

    Jun, 2023

  • 使用大型语言模型生成的同类对等生成器进行外部分布检测

    提出了一种名为 ODPC 的新方法，通过大型语言模型设计生成特定提示词来产生具有 ID 语义的 OOD 对等类，以便于检测，并采用基于 OOD 对等类的对比损失来学习紧凑的 ID 类别表示，并改善不同类别之间的界限清晰度。在五个基准数据集上进行的广泛实验表明，该方法可以得到最先进的结果。

    Mar, 2024

  • 基于语义角色标注的脱离分布检测

    本文提出了一种基于语义角色标注（SRL）的全局 - 局部特征学习方法 SRLOOD，运用边缘对比损失，将不同参数最细的局部特征和全句的全局特征分离、提取和学习，同时引入自监督学习，该方法在四个 OOD 基准测试中取得了 SOTA 效果。

    May, 2023

  • 利用超出分布数据进行弱监督语义分割

    本研究提出了一种基于 Out-of-Distribution 数据的方法 W-OoD，通过发掘分类器的假阳性预测及其背景特征，以识别前景与背景，进而提高弱监督语义分割的性能，并在 Pascal VOC 2012 上实现了最佳表现。

    Mar, 2022