基于交换预测的通信信号识别的半监督学习

Nov, 2023

基于交换预测的通信信号识别的半监督学习

Semi-Supervised Learning via Swapped Prediction for Communication Signal Recognition

Weidong Wang, Hongshu Liao, Lu Gan

TL;DR使用深度神经网络进行通信信号识别在大样本监督学习方面表现出色，但对于小数据集和少量标签的情况下，使用深度神经网络进行训练往往容易过拟合，性能下降。为此，我们提出了一种半监督学习方法，能够有效利用大量的未标记信号数据来提高泛化能力。该方法主要依赖于一种新颖的一致性正则化实现，即 Swapped Prediction，它利用强大的数据增强来扰动一个未标记样本，并鼓励其对应的模型预测接近其原始预测，该预测经过交叉熵损失的缩放对称优化。广泛的实验证明，我们提出的方法在通信信号识别的深度半监督学习方面取得了有希望的结果。

Abstract

deep neural networks have been widely used in communication signal recognition and achieved remarkable performance, but this superiority typically depends on using massive examples for supervised learning, whereas training a deep neural network on small datasets with few labels general

deep neural networks communication signal recognition semi-supervised learning swapped prediction generalization

发现论文，激发创造

专家 / 模仿网络混合：可扩展的半监督学习框架

本文提出了一个 semi-supervised learning (SSl) 的新方法：Mixture of Expert/Imitator Networks，该模型通过利用大量未标记数据来训练 imitator 网络模拟 expert 网络的标签分布，从而提高 text classification 任务的性能，实验结果表明该方法可适用于多种深度神经网络模型，并且性能随未标记数据的增加而提高。

Oct, 2018

深度半监督学习算法的实际评估

通过实现多种常用的 SSL 技术并在一系列实验中进行测试，研究发现简单基线方法的表现通常被低估，而 SSL 方法对标记和未标记数据的敏感性不同，当未标记数据集包含类外示例时性能可能会显著下降，因此我们提供了一个公共代码重现平台以帮助实现 SSL 技术在实际应用中的可行性。

Apr, 2018

DP-SSL: 面向用少量标注样本提升鲁棒性的半监督学习

本文提出了一种新的半监督学习方法 DP-SSL，采用创新的数据编程（DP）方案为无标签数据生成概率标签，通过自动生成标签函数并解决不同标签之间的冲突，成功缓解了有限标签数据的问题，实验证明 DP-SSL 可以为无标签数据提供可靠标签和更好的分类性能。

Oct, 2021

半监督跨语言语音情感识别

本文提出一种基于半监督学习的交叉语言情感识别方法，使用卷积神经网络 (CNN) 和伪标签策略进行训练，在五种不同语言的数据上表现出鲁棒性。

Jul, 2022

朝着真实的半监督学习

本文提出一种基于伪标签的半监督学习方法，能够处理 open-world SSL 问题，并通过样本不确定性和类别分布先验知识等手段，为已知和未知类别的未标记数据生成可靠的类别分布感知型伪标签。该方法在多种常用数据集上表现良好，特别是在 CIFAR-100，ImageNet-100 和 Tiny ImageNet 数据集上的表现显著优于现有的最先进技术。

Jul, 2022

VideoSSL: 视频分类的半监督学习

本文提出了一种基于卷积神经网络（CNN）的半监督学习方法：VideoSSL，用于视频分类，可以在只使用少量标注样本以及利用无标注数据的两种信号指导下，在 UCF101、HMDB51 和 Kinetics 三个公开数据集上实现出色的性能。

Feb, 2020

探索基于自监督多视角对比学习在有限标注下的语音情感识别

提出了一种多视角的自监督学习预训练技术，用于改善情感识别在数据标注有限的情况下的性能，实验证明该框架能够提高业绩。

Jun, 2024

基于插值的对比学习用于少标签半监督学习

提出了一种基于插值方法的半监督学习算法来解决使用一些标签的数据集时一致性正则化方法的性能问题，并设计了一种新型对比损失来引导学习网络嵌入样本，实现更好的边界决策能力，通过实验证明，与现有算法相比，该算法可提高分类准确率 5.3% 以上。

Feb, 2022

基于类别感知对比半监督学习

提出了一种名为 CCSSL 的半监督学习方法，采用类别聚类和图像对比改善模型的伪标签质量和在真实世界中的鲁棒性，并通过目标重新加权实现了干净标签学习和减少噪声标签学习。实验表明其在多个数据集上均取得了显著的性能提升。

Mar, 2022

简单去偏置的安全半监督学习：不要害怕未标记的数据

提出一种去偏移的方法，适用于多数深度半监督学习方法，并提供了简单的理论保证和推广误差界限，以在各种情境中提供更好的模型校准，同时说明了流行的 SSL 方法的直觉解释。

Mar, 2022