Mar, 2024

具有区分度的偏好标签学习与外部数据检测

PDF
TL;DR我们的研究引入了一种名为 PLL-OOD 的新方法，将 Out-of-Distribution（OOD）检测纳入 Partial Label Learning（PLL）框架，通过合并自我监督学习和部分标签损失以及 PE 得分，实现了模型的适应性和准确性的显著提升，在开放世界环境中大大提高了 PLL 模型的鲁棒性和性能。
partial label learningpll-oodout-of-distribution detectionself-supervised learningood instances
发现论文，激发创造
  • 关于伪标记在类别不匹配半监督学习中的应用

    该论文以 Pseudo-Labeling 为代表的 SSL 方法为研究对象，探究了未标记的 Out-Of-Distribution 数据对于类异构 SSL 方法的影响。研究发现，不平衡的伪标签是 PL 方法存在的主要问题。本文提出了两个改进方法：Re-balanced Pseudo-Labeling 和 Semantic Exploration Clustering，来解决这一问题，最终在不同基准测试中实现了超越监督基线和最先进性能的稳定改进。

    Jan, 2023

  • 使用大型语言模型生成的同类对等生成器进行外部分布检测

    提出了一种名为 ODPC 的新方法，通过大型语言模型设计生成特定提示词来产生具有 ID 语义的 OOD 对等类，以便于检测，并采用基于 OOD 对等类的对比损失来学习紧凑的 ID 类别表示，并改善不同类别之间的界限清晰度。在五个基准数据集上进行的广泛实验表明，该方法可以得到最先进的结果。

    Mar, 2024

  • 部分标签学习中真实标签的逐步识别

    本文提出一种新颖的部分标签学习框架，通过提出一种新的分类风险估计器、分析分类器一致性和建立估计误差界限来解决现有方法面对大规模数据计算复杂度瓶颈的问题，并通过实验验证其成为业界新的标杆。

    Feb, 2020

  • 探索用于多模态离域检测的大型语言模型

    应用世界知识通过选择性生成大型语言模型并利用一致性基准不确定性校正方法来提高过分布检测性能，通过从每个图像提取视觉对象充分利用前述世界知识，充分实验证明本方法始终优于现有技术。

    Oct, 2023

  • 基于实例依赖的部分标签学习

    本文提出了一种基于标签增强的偏标签学习方法，该方法针对实例相关性的标签进行了建模，并将标签分布作为标签增强过程的核心信息，以较高的精度训练了预测模型。

    Oct, 2021

  • 鲁棒语言模型的伪 OOD 训练

    本文提出 POORE - POsthoc pseudo-Ood REgularization 框架，通过在内部数据中生成伪 OOD 数据进行 fine-tune，通过引入新的正则化损失来分离 IND 和 OOD 数据的嵌入，提高了 OOD 预测任务的准确度，相较现有方法在三个实际对话系统上获得了最新的技术进展。

    Oct, 2022

  • 学习增加分布以进行外部分布检测

    开放世界分类系统中，鉴别与内部分布不同的外部数据是一个重要问题，利用辅助外部数据进行模型训练可以改善开放世界检测性能。本文从学习理论的角度，通过构建一个包含辅助外部数据 Wasserstein 球中的全部分布的外部分布集，提出了分布增强的外部数据学习 (DAL) 方法，通过对球中的最差外部数据进行训练，缩小外部数据分布差异，从而提高开放世界检测性能。结果表明，DAL 在代表性的外部数据检测设置中具有优越性。

    Nov, 2023

  • 基于混合封闭集和开放集样本的部分标签学习

    本文提出了一种新的部分标签学习方法以学习 OOC 样例，通过从候选标签和非候选标签分别计算木制交叉熵损失来解决该问题，并根据特定设计的标准动态分化 OOC 样例类型。基于标签的开放集 OOC 样例采用动态随机分配候选标签的有效正则化策略进行培训，而基于标签的封闭集 OOC 样例则采用反向标签消岐。通过广泛的实验，表明我们提出的方法优于现有的 PLL 方法。

    Jul, 2023

  • 不可靠的外部来源下的超出分布检测学习

    基于数据生成学习的辅助任务的 OOD 学习（ATOL）是一种强大的方法，可以消除误生成的 OOD 数据，从而使 ID 和 OOD 数据的区分实现真正的 OOD 检测。

    Nov, 2023

  • 关于概率图像建模的场外泛化问题

    采用局部自回归模型提高了其对于 out-of-distribution 问题检测的性能，并且成功地构建了新的无损压缩算法 neural local lossless compressor (NeLLoC)，并且在压缩率和模型大小上达到了最佳性能。

    Sep, 2021