Apr, 2024

使用大型语言模型增强讽刺检测中的情感特征

PDF
TL;DR本研究介绍了一种用于讽刺检测的新方法，采用基于提示的学习的大型语言模型（LLMs）来促进以情感为中心的文本增强。与传统的讽刺检测技术相比，通常由于依赖静态的语言特征和预定义的知识库，往往忽视了讽刺中至关重要的微妙情感维度。相反，我们的方法通过将微妙的情感线索与经过增强的 LLMs 相结合，整合到三个广泛应用于讽刺检测中的基准预训练 NLP 模型（BERT、T5 和 GPT-2）中来增强检测过程。我们使用 SemEval-2018 Task 3 数据集评估了我们的方法，并观察到在讽刺检测能力方面得到了显著的增强。
irony detectionlarge language modelsemotion-centric text augmentationlinguistic featurespre-trained nlp models
发现论文，激发创造
  • 情绪刺激：通过心理学为大型语言模型提升增强

    大语言模型通过 EmotionPrompt 在情绪智能方面进行性能提升，取得了显著的成果，有助于人类与语言模型的跨学科知识交互。

    Jul, 2023

  • 利用大型语言模型建模情绪与伦理

    本文探讨了如何将类人情感和伦理考虑整合到大型语言模型（LLM）中，并通过协作式 LLM 对八种基本人类情感进行建模，以及通过自我监督学习算法与人类反馈指导在 LLM 中嵌入潜在的伦理维度。利用该方法，LLMs 能够进行自我评估和调整以符合伦理准则，并提高其生成与情感共鸣和伦理一致的内容的能力。所提出的方法和案例研究展示了 LLMs 超越纯文本和图像生成，进入共情互动和有原则决策领域的潜力，并在情感意识和伦理意识的 AI 系统发展中树立了新的范例。

    Apr, 2024

  • 使用数据增强和迁移学习在细粒度情感检测数据集上的大型语言模型

    本研究旨在提高文本情感分类在 GoEmotions 数据集上的性能，解决在自然语言处理中检测微妙情感的挑战，并为未来研究提供有价值的见解和方向，包括合成该领域不同数据集上的方法和性能的综述论文的潜力。

    Mar, 2024

  • 多语言环境下的讽刺检测

    本文提出了第一个多语言（法语、英语和阿拉伯语）和跨文化（印欧语系语言与不太文化接近的语言）的讽刺检测系统。我们使用基于特征和基于神经网络的体系结构，采用单语词表示法。我们比较了这些系统与最先进的系统的性能，以确定它们的能力。我们发现，使用多语言词表示或基于文本的特征在不具备讽刺注释数据的语言中分别训练的这些单语言模型可以打开讽刺检测的大门。

    Feb, 2020

  • 基于大型语言模型的文本增强增强人格检测模型

    利用语言模型生成文本增强，结合对比学习提取心理语言学信息，以提高人格特征识别性能。

    Mar, 2024

  • 针对专门的情感识别任务定制通用的大型语言模型

    通过使用大型语言模型，在情感识别领域中研究了 LLMs 的性能，发现其在语言情感识别任务中具有强大的迁移性和可行性。

    Oct, 2023

  • TEII: 跨语言情感检测中的思考、解释、交互和迭代

    我们参与了 Explainability of Cross-lingual Emotion Detection（EXALT）共享任务，在情感检测子任务的评估集上实现了 0.6046 的 F1 分数，超过基准模型 0.16 个 F1 分数，并在竞争系统中排名第二。我们通过使用 Fine-tuning、Zero-shot learning 和 Few-shot learning 方法在基于 Large Language Model（LLM）和非 LLM 的技术中，包括嵌入式的 BiLSTM 和 KNN 进行实验。此外，我们引入了两种新方法：多次迭代代理工作流和多二元分类器代理工作流。我们发现 LLM 方法对多语言情感检测提供了良好的性能。此外，将所有实验模型组合起来的集成模型比任何单一方法都有更高的 F1 分数。

    May, 2024

  • 基于依存句法和神经模型的多语言讽刺检测

    本研究旨在探讨句法依赖特征在多语言讽刺检测任务中的有效性，并发现句法特征在讽刺检测中是具有信息量的。

    Nov, 2020

  • 使用监督对比学习对轻量级语言模型进行情感翻新

    我们提出了一种新颖的改进方法，用于将情绪方面引入预训练语言模型（如 BERT 和 RoBERTa）。通过对比学习更新预训练网络权重，使表现出类似情绪的文本片段在表示空间中靠近编码，而具有不同情绪内容的片段则被推开。我们的方法对 PLMs 进行了改进，即 BERTEmo 和 RoBERTaEmo，生成了情绪感知的文本表示，通过不同的聚类和检索指标进行评估。在情感分析和讽刺检测的下游任务中，它们比预训练模型表现得更好（F1 分数提高约 1%），且在少样本学习中观察到了更显著的性能提升。

    Oct, 2023

  • 利用心理语言学特征和 Transformer 提升基于文本的情感检测的泛化能力

    本文采用基于转换器模型和双向 LSTM 网络的方法，结合心理语言学特征进行基于文本的情感检测，在两个基准数据集中表现出可比性，在六个统一情感数据集的迁移学习实验中表现出强大的跨领域泛化功能。

    Dec, 2022