ACLMar, 2022

将层次结构纳入文本编码器：一个基于对比学习的层次文本分类方法

PDF
TL;DR本文提出了一种将层级结构直接嵌入文本编码器的层次引导对比学习（HGCLR）方法，通过此方法，将正样本进行层次指导，以学习生成具备层次感知的文本表示，在三个基准数据集上的实验证明了 HGCLR 的有效性。
发现论文，激发创造
  • 利用全局和局部层次结构进行层次文本分类

    本研究提出了一个使用 Hierarchy-guided BERT with Global and Local hierarchies (HBGL) 方法来处理层级文本分类中的全局和本地层次结构，并将其应用于三个基准数据集，取得显著的改善。

    May, 2022

  • 层次感知联合对比学习实例和标签用于层次多标签文字分类

    通过使用层次化多标签文本分类和对比学习的方法，提出了一种叫做 HJCL 的方法来解决半监督学习中样本生成引入噪声的问题，并构造批次数据以实现对比学习目标的完全利用。

    Oct, 2023

  • HiCL: 无监督句子嵌入的分层对比学习

    本文提出了一种层次对比学习框架 HiCL，它考虑了局部分段级和全局序列级关系以提高训练效率和效果。通过将序列分为几个分段，并应用局部和全局对比学习来建模分段级和序列级关系，HiCL 提高了其效果。此外，考虑到输入标记上的 transformers 的二次时间复杂度，在获得序列表示之前，HiCL 通过首先对短分段进行编码，然后将它们聚合起来来提高训练效率。大量实验证明，HiCL 提升了之前表现最好的 SNCSE 模型在七种广泛评估的 STS 任务上的性能，BERT-large 平均提升了 + 0.2%，RoBERTa-large 提升了 + 0.44%。

    Oct, 2023

  • HILL：层次感知的信息无损对比学习用于层次文本分类

    探索自我监督学习在层次化文本分类中的可行性，并提出一种信息无损对比学习策略：HILL，以保留输入样本中的语义和句法信息并在学习过程中进行融合，实验证明其优越性。

    Mar, 2024

  • HiGen: 基于层次的层次文本分类序列生成

    提出了一种基于语言模型的文本生成框架 HiGen 来解决多标签文本分类下的层次分类问题，通过动态文本表示方法和层级引导的损失函数，结合任务特定的预训练策略，处理数据和减轻类别不平衡问题，在 ENZYME、WOS 和 NYT 数据集上展示出优越性能。

    Jan, 2024

  • 利用对抗性训练的本地层次化方法进行层次文本分类

    本文介绍了一种基于对抗框架的本地层次结构，用于在几乎所有层次文本分类（HTC）模型中优化复杂的分类树形结构，实验证明该本地层次结构有助于处理复杂的分类树形结构并提高稀有类别的分类效果。

    Feb, 2024

  • 弱监督层次文本分类

    本文提出了一种弱监督的神经方法进行层次文本分类，通过生成伪文档进行模型预训练，并在真实无标签数据上进行自我训练，最终得到高效准确的分类模型。

    Dec, 2018

  • HCL：基于分层对比学习的图像表示改进

    在图表征学习中，提出了一种新的分层对比学习 (Hierarchical Contrastive Learning, 简称 HCL) 框架，采用自适应的 L2Pool 方法进行更合理的多尺度图形拓扑构建，并采用多通道伪孪生网络来进一步扩展各级别内的互信息学习，以获得更丰富和更具层次感的表示。通过实验，HCL 在节点分类、节点聚类和图分类等 12 个数据集上均取得了具有竞争力的性能表现，并且通过可视化显示，HCL 成功捕捉到了图的有意义特征。

    Oct, 2022

  • 检索式上下文学习用于少样本层次文本分类

    本研究提出了第一个以预训练语言模型为基础的在语境学习框架来从检索数据库中识别相关演示，并采用迭代策略处理多层次层级标签的少样本分类任务，通过不同目标实现对输入文本的层级分类，得到优越的实验结果，在少样本的层次分类任务中取得了最先进的成果。

    Jun, 2024

  • 使用所有标签：一种分层多标签对比学习框架

    本文提出了一种层次化多标签表征学习框架，该框架可以利用所有可用标签并保留类别之间的层次关系，并引入新颖的层次保持损失。该方法是数据驱动的，自动适应任意多标签结构。实验表明，我们的关系保持嵌入在各种任务上表现良好，优于基线监督式和自监督式方法。

    Apr, 2022