- STRAPPER: 基于偏好的自我训练强化学习方法及同伴正则化
通过引入对等正则化的自训练方法,克服了偏好强化学习中的相似陷阱问题,并以不同的半监督替代方法和对等正则化学习了多种运动和机器人操作行为。
- CorrMatch:半监督语义分割的相关匹配标签传播
本研究提出了一个针对半监督语义分割的简单但高效的半监督语义分割方法,称为 CorrMatch,目的是通过一致性正则化从未标记的图像中挖掘更多高质量的区域,以更有效地利用未标记的数据。
- 多渠道的自律
本文提出 SMC-2 方法,结合了一致性正则化和自我蒸馏概念,旨在改善模型的泛化能力和对噪声标签的鲁棒性,实验证明在各种模型上表现优异,并能减轻标签噪音干扰导致的泛化能力下降问题。
- CoSDA: 持续无源域自适应
本文介绍了一种 CoSDA 的思想,它是基于源领域内训练的模型,利用一种新的一致性正则化方法来缓解遗忘,采用双速优化师生模型对目标领域进行了训练,并且在连续适应方面优于现有的方法。
- CVPR利用所有未标记数据提升半监督学习
该论文提出两种新的技术(即熵值含义损失和自适应负样本学习),以更好地利用所有未标记的样本,并把它们与前沿的 FixMatch 框架相结合,通过多次实验在多个常见的 SSL 基准上表现出优越性能。
- 中间层蒸馏在压缩语言模型中的再次探讨:过拟合的角度
本文介绍了一种名为一致性正则化的中间层知识蒸馏方法,有效解决了其他中间层知识蒸馏方法容易过拟合的问题,并在模型蒸馏方面表现高效。
- MMHIT-SCIR 在 MMNLU-22 的多语言口语理解中的一致性规范化
本文提出使用基于混合数据增强策略的一致性正则化方法来提高多语言口语理解任务中意图检测和 slot 填充两个子任务的性能,实验结果表明该方法在 MASSIVE 数据集上的表现有明显的提升,在 MMNLU-22 竞赛的全数据集设置中排名第一。
- 使用几何感知自编码器从数十个数据集中学习 3D 人体姿势估计,以桥接骨架格式之间的差异
本研究展示了一个基于深度学习的 3D 人体姿态估计方法,为了克服不同数据集提供的不同骨骼格式这一障碍,我们提出了一种新颖的仿射组合自编码器方法 (ACAE),以实现由多个数据集超级所见,其中我们使用 28 个 3D 人体姿态数据集来监督一个 - UBARv2:针对任务导向对话的减轻暴露偏差
本研究提出一种解决任务型对话系统中曝光偏差问题的方法,通过采用会话级别的采样和基于 dropout 的一致性正则化来提高模型的鲁棒性和性能, 并在 MultiWOZ 基准测试上取得了最先进的性能。
- ECCV领域自适应的一致性正则化
本文提出将一致性正则化项加入半监督 UDA 中,通过建模网络输出元素之间的像素之间的相互关系,在 DAFormer 框架上改善了 GTA5 到 Cityscapes 数据集 19 类 mIoU 表现 0.8 和 SYNTHIA 到 City - ECCVConMatch: 带置信度引导的连贯性正则化半监督学习
本文介绍了一种名为 ConMatch 的新型半监督学习框架,它在图像的两个强大的增强视图的模型预测之间智能地利用一致性正则化,权重由伪标签的置信度确定。该方法通过弱增强视图作为锚点,提出了新的伪标签置信度度量方法,包括非参数方法和参数方法。 - 半监督深度多视图立体
本文提出了一种基于半监督学习的多视角立体视觉 (SE-MVS) 框架,其中一些 MVS 数据仅带有稠密深度地面实况。通过一致性正则化和样式一致性损失来提高深度估计的精度和完整性,实验结果表明该方法优于全监督和无监督方法。
- 通过不确定性量化来辅助半监督学习
本文提出了一种基于不确定性感知的新型无监督目标函数,结合最近 SSL 技术,在保证计算效率的同时,在基准数据集中表现优于或与现有最先进技术水平相当,尤其在复杂数据集如 CIFAR-100 和 Mini-ImageNet 上表现最好。
- 持续学习中的一致性是进一步减轻灾难性遗忘的关键
通过在 Experience Replay 框架中引入一致性正则化方法,将其作为自监督前提任务,并在各种连续学习场景下进行研究。结果表明,相对严格的一致性约束可以更好地保留以前任务的信息。
- EnergyMatch: 基于能量的伪标记半监督学习
本文提出基于能量分数的伪标记法,用于解决深度卷积神经网络中,由于 softmax 置信度无法准确反映样本离训练数据的距离,导致伪标记不可靠的问题,并在不平衡 SSL 数据集上实现了明显的精度提升。
- 基于增强的一致性正则化分类
本文提出了一种基于数据增强的一致性正则化框架 CR-Aug,利用停止梯度操作来提高支持向量器的泛化能力,并表明 CR-Aug 的效果显著优于基线方法。
- 通过语音链重建和自我转录改进半监督序列到序列自动语音识别的一致性训练
本文提出了一种改进的半监督序列到序列自动语音识别的一致性训练范式,利用音频链重构作为弱增强来生成高质量的伪标签,并证明了学生 ASR 模型产生的动态伪转录文本有助于一致性训练。实验结果显示,相对于监督基线,我们的改进范例在单说话者和多说话者 - CVPR将场景文本识别器的性能极限推至无需人工注释
本文介绍了一种利用合成数据和大量真实未标记图像的半监督框架来提高场景文本识别模型性能的方法。该框架基于鲁棒的一致性正则化,有效地解决了合成和真实图像之间的域不一致性问题,并在多项实验中显示出稳定性和准确性,同时提高了场景文本识别模型达到了最 - 基于插值的对比学习用于少标签半监督学习
提出了一种基于插值方法的半监督学习算法来解决使用一些标签的数据集时一致性正则化方法的性能问题,并设计了一种新型对比损失来引导学习网络嵌入样本,实现更好的边界决策能力,通过实验证明,与现有算法相比,该算法可提高分类准确率 5.3% 以上。
- 基于可穿戴设备的野外瞬时压力检测的半监督学习和数据增强
本研究讨论了在野外利用未标记的可穿戴传感器数据进行压力检测的方法,该方法结合了数据增强技术、自编码器和半监督学习等方法,通过实验验证,相较于基准监督学习模型,可以将压力分类性能提高 7.7% 到 13.8%。