Jul, 2023

用于分类捷克新闻文本的数据集和强大基准线

PDF
TL;DR通过 CZEch~NEws~Classification~dataset 对 Czech 自然语言处理进行评估，发现语言特定的预训练编码器分析优于可选的大规模生成语言模型，并定义了四个分类任务：新闻来源、新闻类别、作者性别推断和星期几。
czech natural language processingczech~news~classification~datasetclassification taskspre-trained transformer modelslanguage-specific pre-trained encoder analysis
发现论文，激发创造
  • 跨语言情感分析的多任务学习

    本研究使用零样本和小样本学习进行跨语言情感分析。采用三种语言的 BERT-based 模型进行语种间的情感分类，提出了一种简单多任务模型。通过单任务和多任务实验的零样本和小样本场景对克罗地亚言和斯洛文尼亚情感分析进行评估。

    Dec, 2022

  • 跨语言主观性分类的捷克数据集

    本文介绍了一个由手动标注的 10k 个主观和客观的句子组成的新的捷克主观性数据集，用于评估多语言的预先训练模型在捷克语和英语之间转移知识的能力；并对五个预先训练的 BERT-like 模型进行了参数微调，得到了 93.56% 的准确性。然后，我们使用该数据集进行跨语言主观性分类的实验，并对跨语言和单语言结果以及多语言模型之间的知识转移能力进行了比较和讨论。

    Apr, 2022

  • 捷克语的神经生成：数据和基线

    该研究提供了一份重点研究餐厅场景下，针对捷克语言的 NLG 数据集，并介绍了针对此语言难点的两种模型，分别为使用神经语言模型在词汇化时选择正确的变形形式以及使用序列到序列模型生成词元和形态标记的交替序列，再由形态生成器进行变形。

    Oct, 2019

  • MasakhaNEWS：面向非洲语言的新闻主题分类

    该论文提出了 MasakhaNEWS 数据集来支持在 16 种非洲语言上的新闻主题分类研究，并探索了多种机器学习方法以支持零样本和少样本学习。通过使用 ChatGPT 等技术实现了在低资源非洲语言中进行新闻主题分类任务，能够在零样本情况下实现平均 F1 得分 70，利用 PET 方法，10 个样本即可实现较好的效果。

    Apr, 2023

  • WikiGoldSK：斯洛伐克命名实体识别的注释数据集、基线和少样本学习实验

    本研究旨在解决某些语种尚未存在高质量手动标注数据集的现状，并通过引入 WikiGoldSK 数据集，评估了最先进的多语言预训练语言模型在斯洛伐克语上的效果，并与现有的银标准斯洛伐克 NER 数据集进行了比较。我们还进行了几个示范性实验，并显示使用一个银标准数据集进行训练可以获得更好的结果。最终，我们公开了数据集、代码和经过训练的模型，并采用可许可的许可条款。

    Apr, 2023

  • 使用 CsFEVER 和 CTKFacts 获取捷克数据进行事实验证

    本文介绍了获取捷克语数据进行自动事实核查的方法，其中提出了一种混合机器翻译和文档对齐的方法来生成一个基于 Wikipedia 的大规模 FEVER 数据集的捷克语版本，以及一种可靠应用于自然语言推理任务的 CsFEVER-NLI 版本。同时，还介绍了使用捷克新闻机构语料库对一些数据进行扩展注释，以及该数据集的基线模型和注释平台等实验数据。

    Jan, 2022

  • 乌兹别克语文本分类数据集和分析

    本研究分析了多标签新闻分类任务的数据集创建步骤和评估技术，提供一个收集自十个不同新闻和出版网站的 15 类新闻、出版和法律文本的新文本分类优范，研究比较了从传统的词袋模型到深度学习架构的不同模型，实验结果显示 RNN 和 CNN 模型优于基于规则的模型，最佳性能 BERTbek 模型，为乌兹别克文本分类的进一步研究打下了基础。

    Feb, 2023

  • 细粒度捷克新闻文章数据集：信誉度分析的跨学科方法

    介绍 Verifee 数据集，其中分类了四种不同的新闻可信度等级，通过调整多种流行序列到序列语言模型，在信任度分类任务中达到了最佳的 F-1 得分 0.52，并通过开源数据集和注释方法有助于防止虚假报道和提高公众媒体素养。

    Dec, 2022

  • 斯拉夫语跨语言命名实体语料库

    该研究论文介绍了一个手动注释的语料库，包含六种斯拉夫语言的命名实体。该研究使用基于 Transformer 的神经网络架构和预训练的多语言模型进行命名实体识别和分类，以及命名实体的词形还原和链接。

    Mar, 2024

  • Czert-- 用于语言表达的类波津 (BERT) 捷克模型

    本文介绍了首个基于 BERT 和 ALBERT 架构的捷克语单语言表示模型的训练过程，使用超过 340,000 个句子进行预训练，并在 9 个数据集上超越了多语言模型的表现，同时在九个数据集上取得了新的最优结果。

    Mar, 2021