Oct, 2023

图数据中嘈杂伪标签的深入洞察

PDF
TL;DR给出伪标记策略对图学习模型的影响的深入见解，通过错误分析证明伪标记错误受伪标记阈值的置信度和多视图预测的一致性的限制，并在收敛性属性上理论上说明的基础上，提出了一种谨慎的伪标签方法，通过对置信度最高且多视图一致的样本进行伪标签，从而改进了图学习过程，在链接预测和节点分类任务上优于其他伪标记策略。
pseudo labelinggraph learningerror analysisconvergence propertycautious pseudo labeling
发现论文，激发创造
  • 伪标签选择是一个决策问题

    伪标记、半监督学习、确认偏差、贝叶斯框架、决策理论

    Sep, 2023

  • 近似贝叶斯最优伪标签选择

    本文介绍了一个拟会泛化误差的具有 Bayesian 框架的 pseudo-label 选择方法 (BPLS)，其使用解析近似来选择标签实例，并通过针对高维数据的实证评估来表明其优于传统的 PLS 方法。

    Feb, 2023

  • 使用 Conformer 和初始化策略推进 Momentum Pseudo-Labeling

    本研究通过引入 Conformer 结构和迭代伪标签与语言模型相结合，提高了 MPL 性能，对各种半监督设置表现出鲁棒性， 并且在质量和效果方面优于其他基于伪标签的方法。

    Oct, 2021

  • 面向基于图的半监督学习的伪对比学习

    该论文提出了一种 Pseudo Contrastive Learning (PCL) 的通用框架，该框架通过生成可靠的对比对来解决生成高质量伪标签的问题，通过对负样本进行 dropout 来实现数据增强。 最终，实验证明该方法在五个真实世界的图上均优于其他普遍技术。

    Feb, 2023

  • 关于伪标签的辩护：一种基于不确定性的半监督学习伪标签选择框架

    本文提出一种基于不确定性的假标签选择框架，通过减少训练过程中的噪音来提高假标签的准确性，并可以生成负假标签用于多标签分类和负学习，相比于最近的半监督学习方法在 CIFAR-10、CIFAR-100、UCF-101 和 Pascal VOC 数据集上获得了很好的性能。

    Jan, 2021

  • 动量伪标记在半监督语音识别中的应用

    本研究提出一种名为动量伪标签的半监督语音识别方法，采用了一种在线模型与离线模型之间交互学习的策略，取得了比基准模型更好的效果。

    Jun, 2021

  • 基于图形消歧的深度部分多标签学习

    本文提出利用图形解析和深度模型相结合的方法 ——PLAIN 应对 PML 问题，提高其精确性和鲁棒性。该方法在多个合成数据集和三个实际 PML 数据集上都表现出显著的优越性。

    May, 2023

  • 一种使用正则化的置信度预测的不确定性感知伪标签选择框架

    该研究提出了一种基于不确定性感知的伪标签选择框架，利用符合规范化算法产生的不确定性集合，修复了拟合不当的神经网络，从而减少嘈杂的训练数据。

    Aug, 2023

  • 无法处理（肮脏的）真相：以数据为中心的洞察提高了伪标注

    伪标记是一种使用少量标记样本来利用无标记数据的常用半监督学习技术。本研究提出了一种名为 DIPS 的数据特征化和选择框架，通过对学习动态的分析来改善伪标记方法，提高标记数据的质量，并展示了其在各种真实世界的表格和图像数据集上的应用和影响。综上所述，我们强调了在真实环境中数据为中心的伪标记方法的显著优势。

    Jun, 2024

  • 一种基准生成式概率模型用于弱监督学习

    本研究提出了基于生成模型的自动标注方法，通过弱监督学习去减轻手动标注的负担，取得了比现有方法更好的性能表现，提高了机器学习项目的生产效率。

    Mar, 2023