Apr, 2024

乌克兰文本分类：跨语言知识迁移方法的探索

PDF
TL;DR我们利用 NLP 的最新进展，探索跨语言知识转移方法，避免手动数据整理，以改善 NLP 文本分类领域中各种语言之间数据可用性的不平衡问题，并在三个文本分类任务上进行测试，提供最佳设置的 “配方”。
nlp text classificationdata availabilityukrainian languagecross-lingual knowledge transfertext classification tasks
发现论文，激发创造
  • 乌克兰毒性分类

    通过在缺少资源的乌克兰语中，使用跨语言知识迁移技术，从英语语料库中翻译、使用关键词过滤有毒样本，并通过众包进行注释，填补了有关乌克兰语毒性分类语料库的差距，比较了 LLMs 诱导和其他跨语言迁移方法以及有无微调的鲁棒性和效率最高的基线模型。

    Apr, 2024

  • 通用跨语言文本分类

    通过优化现有标签 / 数据集，将不同语言的标签数据与训练相结合，以创建一个通用模型，从而增强标签和语言范围，实现跨语言的文本分类。

    Jun, 2024

  • 主题分类的单 / 跨语言知识迁移

    通过研究 RuQTopics 数据集中的知识转移情况，本文证明了该数据集非常适合用于实际对话任务，在多语言 BERT 上进行训练可以带来更好的结果。

    Jun, 2023

  • 八种语言多语言文档分类语料库

    本篇研究提出了一种新的 Reuters 子语料库，其针对 8 种语言具有平衡的类先验分布，旨在通过使用多语言词向量和句子嵌入来提供跨语言文档分类的基线，并促进该重要领域的研究。

    May, 2018

  • 跨语言文档分类中的领域差异缩小

    本文研究跨语言理解中的半监督学习，通过结合最先进的跨语言方法和弱监督学习方法，同时解决语言和领域差异，实现了对跨语言文档分类中的新的领先水平。

    Sep, 2019

  • 多语言原型模型在自然语言理解任务中的跨语言可迁移性研究

    本文提出一种方案，使用几个样本训练的神经网络和多语言 Transformer 基础模型之间协同作用的跨语言转移，以改进跨语言学习的性能，实验结果表明，我们的方法能够显著提高跨低资源语言与高资源语言之间的转移学习性能，进一步的结果证明了 meta-learning 的能力。

    Jul, 2022

  • 跨语言学习中的转移语言选择

    该论文探讨了如何自动选择最佳转移语言作为排名问题，建立模型考虑诸如语言相似性，类型学特性，词汇重叠或可用数据大小等因素以执行这种预测。在代表性 NLP 任务的实验中，我们证明了我们的模型比单一特征的单独考虑的基准线更好地预测良好的转移语言，并了解了哪些特征对每种不同的 NLP 任务是最有信息量的，这可能会为未来的专家选择提供帮助。

    May, 2019

  • T3L：跨语言文本分类的翻译测试迁移学习

    该研究提出了一种基于经典的 “翻译和测试” 流程的跨语言文本分类方法，该方法将神经机器翻译器与高资源语言中的文本分类器相结合，通过端到端反向传播来进行微调，并在三个跨语言文本分类数据集上展示了显著的改进。

    Jun, 2023

  • 斯拉夫语跨语言命名实体语料库

    该研究论文介绍了一个手动注释的语料库，包含六种斯拉夫语言的命名实体。该研究使用基于 Transformer 的神经网络架构和预训练的多语言模型进行命名实体识别和分类，以及命名实体的词形还原和链接。

    Mar, 2024

  • 跨语言迁移学习用于多语言任务导向的对话

    本文讨论了在任务导向的对话系统中如何识别用户意图和相应的插槽，并通过多种跨语言转移方法进行数据集训练比较

    Oct, 2018