EMNLPSep, 2021

基于字典异构图的跨语言文本分类转移

PDF
TL;DR本文提出了一种使用高资源语言的任务无关单词嵌入和双语词典来完成跨语言分类任务的方法，具体实现为通过构建基于词典的异构图和引入两级聚合的 DHGNet 这一图神经网络模型。实验结果表明，该方法在准确度方面优于预训练模型，且对于翻译错误具有一定的鲁棒性，可以扩展到其他自动或人工构建的词典。
cross-lingual text classificationbilingual dictionariesgraph neural networksheterogeneous graphdhgnet
发现论文，激发创造
  • 异构图神经网络实现跨语言文本分类

    该论文提出了一种利用图卷积网络在跨语言文本分类中融合异构信息的简单高效方法，利用词性角色、语义相似度和文档翻译等信息构建了异构图，实现了在所有任务中显著优于现有模型的性能和低资源情况下良好的一致性表现。

    May, 2021

  • 使用双语词典进行标注低资源语言的模型转移

    本研究提出了一种新颖的基于跨语言词向量的神经网络模型，通过高覆盖的双语词典训练，利用跨语言模型转移的方法，针对低资源语言的注释预测问题提出了解决方案，并通过多种主动学习启发式方法，提升了该方法的性能。

    May, 2017

  • 学习表示双语词典

    该研究提出了一种神经嵌入模型，利用双语词典将文字定义映射到双语目标词汇，探索不同的句子编码技术以及采用多任务学习和联合学习等关键学习策略来增强学习过程，实验结果表明，该模型在跨语言反向字典检索任务和双语释义识别问题上表现优异，并有效地解决了双语释义识别问题。

    Aug, 2018

  • 无需双语语料库的跨语言词嵌入学习

    使用高覆盖率的字典和 EM 式训练算法，该方法解决了以前的跨语言词嵌入方法中的资源需求大、难以融合单语言数据或难以处理多义词等问题，在双语词汇表归纳任务中实现了表现卓越的结果，并且在单语词汇相似度和跨语言文档分类任务上也取得了有竞争力的结果。

    Jun, 2016

  • 利用双语词典进行低资源半监督神经机器翻译

    本研究提出了一种基于双语词典的数据增强技术，使得机器翻译模型能够扩展词汇表而不会影响低资源环境下的合成句子的质量，我们的方法在性能上表现出可观的改进。

    Apr, 2020

  • 用图神经网络增强的语言模型进行高效的多语言文本分类

    提出了一种基于图神经网络和变压器的跨语言灾难相关文本分类系统，该系统可以在有限的监督下工作，并在多种语言和单语言情境下进行分类。在英语、非英语和单语数据集上测试，该系统的加权 F1 值优于现有的最先进模型和多语言 BERT 基线。

    Mar, 2022

  • Hyper-X: 一个统一的超网络，用于多任务多语种转移

    本文提出 Hyper-X 模型，它将多任务和多语言学习相结合，并通过适应性生成适配器模块的权重，通过学习结合任务和语言特定的知识，实现对未出现的语言和任务 - 语言组合的零样本迁移，并在新语言的少样本情况下始终产生强大的结果。

    May, 2022

  • 通用跨语言文本分类

    通过优化现有标签 / 数据集，将不同语言的标签数据与训练相结合，以创建一个通用模型，从而增强标签和语言范围，实现跨语言的文本分类。

    Jun, 2024

  • 无监督的跨语言词向量空间转移

    本文提出了一种基于无监督学习的算法，通过分布匹配和最小化回译损失来优化两种语言单词嵌入空间之间的转换函数，使用神经网络计算 Sinkhorn 距离评估性能并在跨语言词汇相似度预测和双语词汇归纳等任务中具有强大的性能。

    Sep, 2018

  • HiGPT: 异构图语言模型

    HiGPT 是一个通用的大规模图模型，通过异构图指导调优范式，能够从任意异构图中学习，无需对下游数据集进行任何微调过程，实现模型的适应性和泛化性能。

    Feb, 2024