ACLMay, 2021

BertGCN：结合 GCN 和 BERT 的跨领域文本分类

PDF
TL;DR本研究提出了 BertGCN 模型，它将大规模预训练和传导学习相结合，用于文本分类中。BertGCN 在数据集上构建异构图，并使用 BERT 表示将文档表示为节点。通过同时训练 BertGCN 中的 BERT 和 GCN 模块，该模型能够利用大规模预训练和传导学习的优势。实验表明，BertGCN 在广泛的文本分类数据集上达到了 SOTA 的性能。
发现论文，激发创造
  • VGCN-BERT: 使用图嵌入增强 BERT 进行文本分类

    本文提出了 VGCN-BERT 模型，结合 BERT 和 Vocabulary Graph Convolutional Networks (VGCN) 的能力进行文本分类，实验证明其在多个文本分类数据集上性能优于单独使用 BERT 和 GCN，并且比以前的研究效果更好。

    Apr, 2020

  • InducT-GCN: 用于文本分类的归纳式图卷积网络

    本研究提出了一种新颖的归纳图卷积网络框架 InducT-GCN（InducTive Graph Convolutional Networks for Text classification），用于无额外资源和有限训练数据情况下的归纳图文本分类，通过仅基于训练文档的统计信息构建图并在测试期间进行单向 GCN 传播，与传统感性学习模型相比，InducT-GCN 在五个文本分类基准测试中表现出更好的性能。

    Jun, 2022

  • HeteGCN：面向文本分类的异构图卷积网络

    本文提出了一种异构图卷积网络建模方法 HeteGCN，结合了 predictive text embedding (PTE) 和 TextGCN 的优点用于文本分类，以解决现有方法预测能力、可扩展性和归纳能力的局限性。通过使用不同的图层在一个 HeteGCN 架构中学习特征嵌入并派生文档嵌入，将 TextGCN 简化为几个 HeteGCN 模型，从而简化了模型参数，以提高性能和训练速度。实验结果表明所提出的方法在小的标注训练集方案下有效。

    Aug, 2020

  • 张量图卷积网络的文本分类

    本文提出 TensorGCN 框架，基于图卷积神经网络进行文本分类，结合单个图的邻域信息和不同图的异构信息进行内部图和跨图传递信息的聚合和协调，实现了在不同种类图中集成异构信息的有效方式。

    Jan, 2020

  • 通过边异构图神经网络来改进文章分类

    将研究成果分类为特定上下文的标签分类体系是一项具有挑战性且相关的下游任务，该论文提出了一种方法，通过使用边异构图来增强简单的图神经网络（GNN）管道的性能，实验证明边异构图能够提高 GNN 模型的性能，这项研究有望在节点分级分类方面提供性能改进。

    Sep, 2023

  • 文本分类的连续图卷积网络

    提出了一种使用连续图卷积网络的新方法来推断在线文本数据的模型，称为 ContGCN，采用了全标记 - 任意文档范式来动态更新每批处理的文档 - 标记图，并使用自我监督对比学习目标来更新模型。在华为公共舆情分析系统上进行的 3 个月 A/B 测试表明，ContGCN 相比现有的方法提高了 8.86％的性能。

    Apr, 2023

  • 异构图神经网络实现跨语言文本分类

    该论文提出了一种利用图卷积网络在跨语言文本分类中融合异构信息的简单高效方法，利用词性角色、语义相似度和文档翻译等信息构建了异构图，实现了在所有任务中显著优于现有模型的性能和低资源情况下良好的一致性表现。

    May, 2021

  • BERT4GCN：利用 BERT 中间层增强 GCN 进行基于方面的情感分类

    本文提出了一种新的模型 BERT4GCN，它将来自 BERT 中间层的语法顺序特征与依存图中的句法知识相结合，以更好地编码依存图进行下游分类，并通过实验验证，BERT4GCN 可以极大地增强 ABSC 模型的能力。

    Oct, 2021

  • 使用预训练字素模型的神经音素转换

    本文提出了一种预训练的字形模型 GBERT，通过两种方法将其融合到基于 Transformer 的 G2P 模型中，实验证明了该模型在 SIGMORPHON 2021 G2P 任务的中低资源数据情况下的有效性。

    Jan, 2022

  • 图卷积网络文本分类

    本文介绍了一种基于图卷积神经网络的文本分类算法 (Text GCN)，该算法利用单一的文本图构建并联合学习词和文本的表征，经实验表明，将该算法应用于多个基准数据集后，在无需外部词嵌入和预先知识的情况下，文本 GCN 仍可优于现有的文本分类方法。

    Sep, 2018