高效情感分析：特征提取技术、集成以及深度学习模型的资源感知评估

Aug, 2023

高效情感分析：特征提取技术、集成以及深度学习模型的资源感知评估

Efficient Sentiment Analysis: A Resource-Aware Evaluation of Feature Extraction Techniques, Ensembling, and Deep Learning Models

PDF

Mahammed Kamruzzaman, Gene Louis Kim

TL;DR该论文对文档级情感分析模型进行了广泛比较评估，在关注模型部署可行性和资源消耗的重要指标方面，考虑了不同的特征提取技术、集成效果、任务特定的深度学习建模和领域无关的大型语言模型（LLMs）。研究发现，尽管微调的 LLM 获得了最高的准确率，但某些替代配置在资源消耗方面提供了巨大的节省，而准确率只有微小的损失。此外，研究还发现，在较小的数据集上，准确率的差异越来越小，而资源消耗的差异却越来越大。

Abstract

While reaching for nlp systems that maximize accuracy, other important metrics of system performance are often overlooked. Prior models are easily forgotten despite their possible suitability in settings where large computing resources are unavailable or relatively more costly. In this

nlp systems document-level sentiment analysis models resource costs feasibility of model deployment resource consumption

发现论文，激发创造

通过检索增强的大型语言模型增强金融情感分析

在金融情感分析领域，传统的 NLP 模型受到参数大小和训练数据范围的限制，以及简洁的财经新闻文本缺乏上下文的问题，而无法很好地泛化和提高准确性。为了解决这些挑战，本研究引入了一种基于检索增强的大型语言模型（LLMs）框架，该框架包括一个指导调整的 LLMs 模块和一个从可靠外部来源检索附加上下文的模块。与传统模型和 ChatGPT、LLaMA 等 LLMs 相比，我们的方法在准确性和 F1 得分方面取得了 15％到 48％的性能提升。

Oct, 2023

法律领域中常见文本分类方法的基于能量的比较分析

该论文通过详细的定量比较大型语言模型和传统方法在性能、时间、能耗和成本等方面的表现，发现简单算法往往能够在性能接近的情况下以较低的能耗和资源需求获得结果，从而建议企业在选择机器学习方案时进行额外评估。

Nov, 2023

低资源情感分析的迁移学习

本文描述了对库尔德语数据的情感分析数据集的收集和注释，并探讨了几种经典的机器学习和神经网络技术以及数据增强的方法。我们证明了数据增强可以在难度较大的情况下实现高的 F1 分数和准确性。

Apr, 2023

使用机器学习和自然语言处理方法进行情感分析中 Reddit 评论的性能评估

使用 GoEmotions 数据集评估情感分析模型的效能并扩展研究范围，发现 RoBERTa 模型在细粒度情感分类任务上表现出色，推动了情感分析能力的发展。

May, 2024

基于深度学习的情感分析：一项比较研究

本文综述了在自然语言处理（NLP）方面使用深度学习模型进行情感分析的最新研究，评估了使用词频 - 逆文档频率（TF-IDF）和词嵌入技术的不同模型和输入特征，并对实验结果进行了比较研究。

Jun, 2020

大语言模型时代的情感分析：现实检验

本文讨论了大型语言模型在情感分析任务中的有效性，对 13 项不同的任务进行了评估，在简单任务中表现良好，但在涉及更深层次理解和结构化情感信息方面仍有待提高；然而，在资源有限的情况下，大型语言模型表现出色，提供了潜在可能性。该研究提出了一个新的基准评估框架 SentiEval。

May, 2023

使用自然语言处理和不同机器学习技术进行情感分析在美国航空公司 Twitter 数据上的比较研究

本文介绍了两种自然语言处理技术（词袋和 TF-IDF）以及各种机器学习分类算法（支持向量机，逻辑回归，多项式朴素贝叶斯，随机森林）来分析大型，不平衡和多类数据集上的情感分析。最佳方法使用支持向量机和逻辑回归的词袋技术提供 77％的准确性。

Oct, 2021

基于多情感资源增强的注意力网络进行情感分类

本文提出一种多情感资源增强注意力网络模型（MEAN）用于情感分类，通过集成情感词库、否定词和强度词等情感语言知识到深度神经网络的注意力机制中，采用了不同类型的情感资源，从不同的情感表示子空间提取情感相关信息，能更有效地捕捉情感、否定和强度词的总体语义，实验结果表明，MEAN 优于强有力的竞争对手。

Jul, 2018

多源社交媒体情感分析的比较研究

本文使用多种技术，如基于词典的、机器学习和深度学习方法，对社交媒体上的评论数据进行情感分析，并提供了比较分析结果。在本研究中，我们使用了来自 Twitter、Reddit 等社交网络网站的评论等多源数据集。选择了朴素贝叶斯机器学习算法、TextBlob 词典方法和 LSTM 深度学习算法。

Dec, 2022

深度学习中的混合和集成模型在自然语言处理中的综述

该研究综述了自然语言处理中混合和集成深度学习模型的广泛探索，揭示了它们在情感分析、实体识别、机器翻译、问答、文本分类、生成、语音识别、摘要生成和语言建模等多种任务中具有的变革潜力。研究系统地介绍了每个任务，从循环神经网络 (RNNs) 到基于 Transformer 的模型如 BERT，阐述了它们的性能、挑战和计算需求。强调了集成技术的适应性，突出了它们增强各种自然语言处理应用的能力。还讨论了在实施过程中的挑战，包括计算负载、过拟合和模型解释复杂性，以及解释性和性能之间的权衡。作为精炼而宝贵的指南，该综述综合了有关任务、模型结构和挑战的见解，为研究人员和从事自然语言处理的从业者提供了一个综合的视角，以通过集成深度学习在自然语言处理中推进基于语言的应用。

Dec, 2023