May, 2024

探索阿拉伯语中的说服技巧：利用大型语言模型的实证研究

PDF
TL;DR本研究针对阿拉伯社交媒体内容，利用预训练语言模型（PLMs）进行了全面的经验研究，旨在识别其中的说服技术。通过特征提取、微调和提示工程技术三种学习方法的实验比较，得出微调方法在二分类和多标签分类任务上取得了最高结果，f1-micro 分数为 0.865，f1-weighted 分数为 0.861。此外，通过使用少样本学习技术，我们观察到在性能相对较低的 GPT 模型上可以提高结果达 20％，这为未来的研究和探索方向提供了有希望的方向。
persuasive techniquesarabic social media contentpre-trained language modelsfine-tuningfew-shot learning techniques
发现论文，激发创造
  • ArAIEval 共享任务传说：使用一种语言无关的文本表示模型进行说服技巧检测

    本文介绍了我们在 ArabicNLP 2023 的 ArAIEval 挑战中的最佳提交结果，我们主要关注任务 1，该任务涉及从推特和新闻文章的摘录中识别说服技巧，我们使用 XLM-RoBERTa 进行训练，并在阿拉伯语文本中检测到说服技巧。通过微调多语言语言模型，这种方法表现出很强的效果。在测试集评估中，我们在子任务 A 中取得了 0.64 的微观 F1 分数。

    Oct, 2023

  • ArAIEval 共享任务：阿拉伯语文本中的说服技巧和虚假信息检测

    介绍了 ArAIEval 共享任务的概述，该任务主要包括通过检测推文和新闻文章中的说服技巧来识别说服技巧，并通过推文中的二进制和多类别设置来检测虚假信息。

    Nov, 2023

  • 重新审视预训练语言模型及其在阿拉伯语自然语言理解中的评估

    通过提供三种新的阿拉伯 BERT 模型 (JABER、Char-JABER 和 SABER) 和两种新的 T5 模型 (AT5S 和 AT5B)，并在包括 ALUE 在内的阿拉伯自然语言理解任务和 ARGEN 基准子集上实验性地对现有最先进模型的表现进行了系统性评估，得出了我们的模型在辨别性和生成性阿拉伯自然语言理解和生成任务方面具有显著优势，并达到了新的最先进性能。

    May, 2022

  • 衡量和基准大型语言模型生成有说服力语言的能力

    我们研究了大型语言模型（LLMs）产生有说服力的文本的能力，通过构建一个新的数据集 Persuasive-Pairs，用于训练回归模型来预测文本对之间的说服力得分，并讨论了系统提示中不同 'personas' 对文本的影响。

    Jun, 2024

  • 评估心理健康问答分类基础模型的有效性

    这项研究评估了基础模型在心理健康护理问题和回答分类中的效果，并发现预训练语言模型（PLMs）在捕捉语义意义方面具有非常好的结果，对于阿拉伯语的心理健康支持具有很大的潜力。

    Jun, 2024

  • Nexus 在 ArAIEval 共享任务中：为宣传和虚假信息检测微调阿拉伯语言模型

    在这篇论文中，我们讨论了我们参与阿拉伯语环境下 ArAIEval 共享任务的情况，我们在子任务 1A 和 2A 中分别获得了第 9 和第 10 的名次。我们的实验包括对转换器模型进行微调，并使用 GPT-4 进行零样本和少样本学习。

    Nov, 2023

  • KInITVeraAI 在 SemEval-2023 任务 3 中的表现：简单而强大的多语言微调用于说服技巧检测

    本文提出了在 SemEval 2023 任务 3 的子任务 3 中检测说服技巧的最佳解决方案，主要是通过细调预训练的基于 Transformer 的语言模型来处理多语言输入数据和多个预测标签，该方案使用大型的跨语言模型（XLM-RoBERTa 大型模型）在所有输入数据上联合训练，而且针对已知语言和未知语言分别设置合理的置信度阈值，最终在 9 种语言中的 6 种语言上（包括两个未知语言）表现最优秀并取得了高度竞争的结果。

    Apr, 2023

  • 一种无监督的领域无关框架，用于自动检测文本中的说服策略

    本文利用多类别分类问题的机器学习框架，探讨社交媒体上一些具有欺骗性、有误导性的文本的检测方法，利用已有的语料库【英文原文：lexical features】和提取文本固有结构的方法进行处理，并取得了良好的进展。

    Dec, 2019

  • ArAIEval 共享任务中的 MAVERICKS：构建更安全的数字空间 -- 转换器集成模型解决欺骗与说服

    我们在本文中重点介绍了我们为《2023 年阿拉伯语 AI 任务评估（ArAiEval）共享任务》开展的方法。我们提出了针对共享任务的任务 1-A 和任务 2-A 的方法，重点是说服技巧检测和虚假信息检测。检测说服技巧和虚假信息已成为避免真实信息扭曲的必要手段。该任务使用多种体裁的推文和新闻文章来进行给定的二元分类问题。我们尝试了在阿拉伯语上预训练的几种基于 Transformer 的模型，并在提供的数据集上进行了微调。我们采用集成方法来提高系统的性能。我们在任务 1-A 上获得了 0.742 的微平均 F1 分数（排行榜第 8），在任务 2-A 上获得了 0.901 的微平均 F1 分数（排行榜第 7）。

    Nov, 2023

  • 使用预训练语言模型进行阿拉伯语及其方言的形态句法标注

    该研究利用预训练转换器语言模型对不同形式的阿拉伯语进行形态句法标记，优于现有系统，在不同区域的阿拉伯语可获得显著改进，特别是在资源匮乏的情况下，利用其他高资源方言的数据进行微调，以及使用高质量的形态分析器作为外部语言资源是有益的。

    Oct, 2021