ContrastNet：用于小样本文本分类的对比学习框架

AAAIMay, 2023

ContrastNet：用于小样本文本分类的对比学习框架

ContrastNet: A Contrastive Learning Framework for Few-Shot Text Classification

Junfan Chen, Richong Zhang, Yongyi Mao, Jie Xu

TL;DR提出了一个名为 ContrastNet 的对比学习框架，来解决少样本文本分类问题中类间相似性引起的混淆和过拟合的问题。经实验证明该方法在 8 个少样本文本分类数据集上优于当前技术水平。

Abstract

few-shot text classification has recently been promoted by the meta-learning paradigm which aims to identify target classes with knowledge transferred from source classes with sets of small tasks named episodes.

few-shot text classification meta-learning prototypical networks discriminative representation overfitting

发现论文，激发创造

双重对比一致性的小样本文本分类

本文研究了如何使用预训练的语言模型进行少样本文本分类，提出了一种基于有限标注数据的监督对比学习和大量无标注数据的一致性约束方法，并且提出一种新的对比一致性来改善模型性能。在四个数据集上的实验证明，我们的模型 (FTCC) 可以胜过现有的最佳方法并且具有更好的鲁棒性。

Sep, 2022

少样本节点分类对比度元学习

本文提出了一种名为 COSMIC 的图形式的新颖对比元学习框架，并通过丰富内部类可泛化性和生成硬节点类来增强跨类可泛化性，从而使少数样本节点分类的性能得到提升。

Jun, 2023

对比学习的少样本分类

本文提出了一种新的对比学习框架，将其无缝地整合到预训练阶段和元训练阶段，以提高少样本分类的性能，并使用交叉视图的情节训练机制进行最近的质心分类，并采用基于距离缩放的对比损失。

Sep, 2022

Few-Shot 分类的空间对比学习

本文探讨使用反差学习作为辅助训练目标来促进更通用和可转移的特征，在此基础上提出了一种基于注意力的空间反差目标来学习本地区分和类别不可知特征。通过大量实验证明了该方法优于最先进的方法，证实了学习良好、可转移的嵌入在 few-shot 学习中的重要性。

Dec, 2020

利用可学习视角对比学习提升少样本分类

通过引入对比损失和学习算法，本研究提升了少样本分类任务中的细分子类别鉴别能力，实现了在嵌入空间中的潜在细粒度结构学习，并通过在标准小样本学习基准测试中的广泛试验验证了该方法的优越性。

Jul, 2021

少样本节点分类的有监督图对比学习

本篇研究研究了在说名高成本的标注或标签问题下，如何使用监督图形对比学习，数据增强，子图编码和多尺度对比等机制，实现图形节点分类任务的有效编码器。实验表明，相比基于元学习的方法，这个新的框架可以显著提高少样本节点分类问题的性能。

Mar, 2022

元学习对抗域适应网络用于小样本文本分类

本文提出了一种新的元学习框架，集成对抗域适应网络，旨在提高模型的适应能力并为新类别生成高质量的文本嵌入。在四个基准数据集上进行了大量实验，结果表明我们的方法在所有数据集上都明显优于现有技术，特别是在 20 个新闻组数据集上，1-shot 和 5-shot 分类的准确性从 52.1％提高到 59.6％和从 68.3％提高到 77.8％。

Jul, 2021

基于提示的少样本语言学习的对比学习

本文提出一种基于对比学习的框架，使用不同的增强 “视图” 将同一类别的输入聚类，远离来自不同类别的输入，将对比损失与标准的掩码语言建模（MLM）损失相结合，并应用于基于提示的少样本学习者，实验结果表明，我们的方法在 15 种不同的语言任务中表现优于现有的先进方法。

May, 2022

少样本文本分类的归纳网络

本文提出了一种基于归纳网络的元学习算法来实现少样本文本分类任务中的类别泛化，通过将动态路由算法与元学习相结合，学习出每个类别的泛化表示，并将其与新的查询样本进行比较，在英文情感分类和中文对话意图分类任务中验部，所获得的实验结果显示，该模型在泛化类别的表现上显著优于现有的最先进的方法。

Feb, 2019

Few-shot 分类的深入探究

这篇论文介绍了几种代表性的 few-shot 分类算法的一致性比较分析，包括修改的基准线方法，新的评估设置等，并揭示了在 backbones 网络较深时，减少类内变异是一个重要的因素，但与使用较浅的 backbones 网络时不太重要的结论。在现实的跨域评估设置中，我们展示了一种标准的微调实践的基准方法与其他最先进的 few-shot 学习算法相比的优越性。

Apr, 2019