Jun, 2023

基于描述增强的标签嵌入对比学习用于文本分类

PDF
TL;DR本文提出了一种使用自监督学习及描述增强的标签嵌入网络（DELE）用于文本分类的方法，该方法通过 Relation of Relation（R2）分类任务对标签进行利用，并采用三元组损失来增强标签的差异和联系分析。
text classificationneural networkslabelsself-supervised learningdele
发现论文，激发创造
  • 双重对比学习：基于标签感知数据增强的文本分类

    本研究利用 DualCL 框架将分类器参数作为增广样本，与输入样本结合运用对比学习方法，在五个基准文本分类数据集上表现出较高的分类准确性，并证实了 DualCL 框架在学习具有判别性的表示方面的能力。

    Jan, 2022

  • 场景图像的多标签自监督学习

    使用多标签自监督学习（MLS）方法，通过将场景 / 多标签图像的自监督学习简化为多标签分类问题，我们可以学习到高质量的图像表示，该方法在 MS-COCO 上获得了分类、检测和分割方面的最先进结果，并且比现有的方法简单易用，便于部署和进一步探索。

    Aug, 2023

  • 图分类的对比自监督学习

    本研究提出了两种基于对比自监督学习（CSSL）的方法来缓解过拟合的问题，具体地，我们使用 CSSL 对图形编码器进行预训练，并在标记后的图形上调整预先训练的编码器。我们还开发了一个基于 CSSL 的正则化器，同时解决监督分类任务和无监督 CSSL 任务。通过数据增强的方式，定义了对比损失来学习图形编码器。实验结果表明，我们提出的方法在各种图形分类数据集上都非常有效。

    Sep, 2020

  • 半监督端到端对比学习用于时间序列分类

    本文提出了一个称为 SLOTS（半监督学习用于时间分类）的端到端模型，该模型利用无标签样本和少量有标签样本来训练编码器和分类器，并使用无监督对比损失、有监督对比损失和分类损失来优化模型。通过与十种最先进的方法在五个数据集上的比较，实验结果表明 SLOTS 是一个简单而有效的框架，相较于两阶段的方法，SLOTS 在相似的计算成本下，能够以显著提升的性能使用相同的输入数据。

    Oct, 2023

  • 基于插值的对比学习用于少标签半监督学习

    提出了一种基于插值方法的半监督学习算法来解决使用一些标签的数据集时一致性正则化方法的性能问题，并设计了一种新型对比损失来引导学习网络嵌入样本，实现更好的边界决策能力，通过实验证明，与现有算法相比，该算法可提高分类准确率 5.3% 以上。

    Feb, 2022

  • 多标签图像分类的语义感知双对比学习

    通过引入样本对间对比学习和原型 - 样本对比学习，提出了一种新颖的语义感知双对比学习框架，通过联合训练三个模块，准确捕捉与图像内容相关的判别性标签级特征，并在五个具有挑战性的大规模公共数据集上实验证明了该方法的有效性优于现有技术。

    Jul, 2023

  • 利用对抗训练在自学习中进行跨语言文本分类

    本研究提出了一种半监督敌对训练过程，通过最小化标签保留输入扰动的最大损失来改进跨语言文本分类，进而为目标语言样本诱导标签以进一步适应模型。与多个强基线比较，我们观察到了在各种语言的文档和意图分类上的显著增益。

    Jul, 2020

  • 无监督学习在少样本图像分类中的应用

    本研究提出了一种自我监督学习的方法，以训练更通用的嵌入网络，可以在少样本的情况下实现更好的图像分类性能，即使在跨域情况下也表现出一定的鲁棒性。

    Nov, 2019

  • 有限标注医学图像分割的全局和局部特征的对比学习

    本文介绍了一种利用自监督学习和对比学习实现的影像分割技术，该技术可以在大量没有标注数据的情况下学习，并且在三个磁共振成像数据集上验证了其有效性。

    Jun, 2020

  • 端到端监督式多标签对比学习

    该研究提出了一种新的端到端训练框架 ——KMCL（基于核的多标签对比学习），以解决模型和数据中心设计的缺点。KMCL 通过将嵌入特征转化为高斯 RKHS 中指数核的混合，然后进行目标损失编码，包括重构损失、非对称分类损失和对比损失来捕捉标签相关性。该框架同时考虑特征编码器的不确定性，并保持较低的计算量。通过对图像分类任务进行广泛实验，展示了 KMCL 相对于 SOTA 方法的一致改进。PyTorch 实现详见 https://github.com/mahdihosseini/KMCL。

    Jul, 2023