Aug, 2023

UPB 在 IberLEF-2023 AuTexTification 中的使用：使用 Transformer 集成检测机器生成的文本

PDF
TL;DR该研究论文描述了 UPB 团队在 IberLEF-2023 的 AuTexTification 共享任务中提交的解决方案，主要使用基于 Transformer 的深度学习模型以及多任务学习等训练技术，最佳模型在英语和西班牙语数据集上分别达到了 66.63% 和 67.10% 的宏 F1 分数。
autextificationupb teamiberlef-2023deep learning modelsmulti-task learning
发现论文，激发创造
  • AuTexTification 在 IberLEF 2023 上的概述：多领域机器生成文本的检测和归因

    本文介绍了 IberLEF 2023 研讨会中 AuTexTification 共享任务的概述，其中包括两个子任务：子任务 1 要确定文本是人工撰写还是由大型语言模型生成，子任务 2 要将机器生成的文本归属于六个不同的文本生成模型之一。我们的 AuTexTification 2023 数据集包含两种语言（英语和西班牙语）和五个领域（推文、评论、新闻、法律和操作指南）的超过 160,000 个文本。总共有 114 个团队报名参加，其中 36 个团队发送了 175 个运行结果，并有 20 个团队发送了他们的工作笔记。在本概述中，我们介绍了 AuTexTification 数据集和任务，参赛系统以及结果。

    Sep, 2023

  • 基于 Transformer 和混合深度学习模型的机器生成文本检测

    该研究介绍了 UniBuc - NLP 团队应对 SemEval 2024 任务 8：多生成器、多领域和多语言黑盒机器生成文本检测的方法。我们探索了基于 transformer 和混合深度学习架构。其中，我们的基于 transformer 的模型在子任务 B 中以 86.95％的准确度在 77 个团队中取得了强势的第二名，展示了该架构在此任务中的适用性。然而，我们的模型在子任务 A 中显示出了过拟合的现象，这可能通过减少微调和增加最大序列长度来修复。对于子任务 C（标记级别分类），我们的混合模型在训练过程中出现了过拟合，影响了其检测人工文本和机器生成文本之间的转换能力。

    May, 2024

  • AILAB-Udine@SMM4H 22: Transformers 和 BERT 集合的极限

    AILAB-Udine 团队在 SMM4H 22 共享任务中使用 Transformer-based 模型进行了文本分类、实体提取和实体归一化，并探索了集成学习的不同架构的协同效应和生成模型在术语规范化方面的巨大潜力。

    Sep, 2022

  • 使用变形金刚和多任务学习识别混合代码社交媒体文本中的情感 - 在 SemEval-2020 任务 9 中的 UPB

    本篇论文描述了研究团队为 SemEval-2020 Task 9 开发的两个系统，用于涵盖印地语 - 英语和西班牙语 - 英语这两种混合语言。通过介绍利用多种神经网络方法和预训练的单词嵌入的解决方案，我们提出的多语言 BERT 方法在印地语 - 英语任务中取得了有前途的表现，平均 F1 得分为 0.6850，对于西班牙语 - 英语任务，我们使用另一种基于 Transformer 的多语言模型 XLM-RoBERTa 获得了平均 F1 得分为 0.7064，排名团队第 17 位 (29 个参赛者中).

    Sep, 2020

  • QUST 团队参加 SemEval-2024 任务 8：检测人工智能生成文本的单语和多语方法的综合研究

    本文介绍了 QUST 团队参与 SemEval 2024 任务 8 的研究，通过数据增强和清洗来提高模型训练效率和准确性，评估了传统的深度学习方法、多尺度正负未标记框架（MPU）、微调、适配器和集成方法，并选择了在单语任务中准确性最高的模型，在子任务 A 和 B 中进行评估。最终模型构建采用了将微调与 MPU 相结合的堆叠集成方法。我们的系统在多语言设置下的子任务 A 官方测试集中获得第八名（准确性得分第 13 名），我们在此链接发布了系统代码。

    Feb, 2024

  • 用于多生成器、多领域和多语言机器生成文本检测的细调大型语言模型

    SemEval-2024 Task 8 引入了识别多语言和领域中大型语言模型（LLMs）生成的机器文本的挑战。本文关注于二元分类和多类分类的子任务，并通过传统机器学习和自然语言处理进行特征提取以及基于 LLMs 进行文本分类的两种方法进行解决，结果显示变压器模型，尤其是 LoRA-RoBERTa，在多语言环境中使用多数表决方法能够高效地识别机器生成的文本。

    Jan, 2024

  • SemEval-2024 任务 8：多领域、多模型和多语种机器生成文本检测

    SemEval-2024 Task 8 的主要发现是多生成器、多领域和多语言的机器生成文本检测。

    Apr, 2024

  • 基于集成 LLM 方法的生成式人工智能文本分类

    本文提出了一种集成神经模型以检测大型语言模型生成的语言，并对模型进行归因的方法。

    Sep, 2023

  • 使用预训练模型和适配器进行端到端的语音翻译：UPC 在 IWSLT 2021

    本文介绍了 UPC 机器翻译小组提交给 IWSLT2021 离线语音翻译任务的参赛作品，是一个基于端到端的离线语音翻译系统，采用预训练模型 Wav2Vec 2.0 和 mBART 的联合技术，在仅训练 20% 的参数的前提下获得了 27.3 的 BLEU 分数，并采用 Adapter 及预训练技术提高了收敛速度和最终结果，最后使用 Ensemble 模型取得 28.22 的 BLEU 分数，同时还使用了一种自定义细分算法，在 IWSLT2019 测试集上相对于给定细分的结果提高了 2.5 到 3 的 BLEU 分数。

    May, 2021

  • UPC 参加 WMT-SLT 22 挑战低资源手语翻译

    该研究描述了在 Politècnica de Catalunya 开发的系统，用于机器翻译 2022 手语翻译任务的手语到文本方向，使用实施了 Fairseq 建模工具的 Transformer 模型。我们使用了 PHOENIX-14T 数据集进行模型预训练和数据增强技术进行了实验。我们的系统为测试集获得了 0.50 BLEU 分数，比组织者的基线提高了 0.38 BLEU。我们强调了基线和我们系统的表现欠佳，进而强调了这些发现的不可靠性。

    Dec, 2022