Mar, 2024

TRABSA：使用基于注意力机制的双向 LSTM 和 Twitter-RoBERTa 的可解释性推特情感分析

PDF
TL;DR我们提出了 TRABSA，这是一个混合框架，整合了基于 transformer 的结构、注意机制和 BiLSTM 网络，用于情感分析。我们使用 RoBERTa 训练了 124M 条推文，填补了情感分析基准的差距，确保了最先进的准确性，并通过在 32 个国家和美国各州的推文数据集上做实验，比较了六种单词嵌入技术和三种基于词汇的标记技术，选出了最佳组合以实现最佳情感分析。TRABSA 以 94% 的准确率优于传统机器学习和深度学习模型，并在精确率、召回率和 F1 得分方面取得了显著的提升。对多样化数据集的评估证明了其持续的优越性和泛化能力。SHAP 和 LIME 分析提升了解释性，增强了对预测的信心。我们的研究有助于疫情资源管理，促进资源规划、政策制定和疫苗策略。
sentiment analysistrabsatransformer-based architecturesrobertainterpretability
发现论文，激发创造
  • RoBERTa-BiLSTM：一种用于情感分析的上下文感知混合模型

    通过结合 RoBERTa 和 BiLSTM 网络的 RoBERTa-BiLSTM 混合深度学习模型，在情感分析中实现更好的性能。

    Jun, 2024

  • SemEval-2017 任务 4: 使用 BERT 进行 Twitter 情感分析

    使用 BERT 模型对 SemEval2017 中 Twitter 上的英语情感分析任务 4A 进行解决，在训练数据量较小的分类任务中，BERT 是一个非常强大的大型语言模型。使用此模型进行实验时，我们使用了包含 12 个隐藏层的 BERT BASE 模型，该模型在准确性、精确率、召回率和 F1 分数上优于朴素贝叶斯基线模型，在二分类子任务中表现更好，我们还在实验过程中考虑了所有种类的伦理问题，因为 Twitter 数据包含个人和敏感信息。我们在此 GitHub 存储库中提供了实验中使用的数据集和代码。

    Jan, 2024

  • TASS 2019：数据增强和稳健的嵌入用于情感分析的 Atalaya

    文章介绍了作者参加 TASS 2019 的经历，用了诸如字符包袋、词包袋、推文嵌入的表示方法。文章也使用了两种数据增强技术，最后得出简单方法的高竞争实验结果。

    Sep, 2019

  • 利用 BERT 进行端到端方面情感分析

    本文探讨了预训练语言模型中上下文化嵌入的建模能力，并使用简单明了的神经基线处理端到端方面的情感分析任务。实验结果表明，即使使用简单的线性分类层，我们基于 BERT 的架构的性能也能超过最新的方法。此外，我们还使用保留验证数据集来标准化比较研究，这是之前的工作往往忽略的，因此，我们的工作可以作为 E2E-ABSA 的 BERT 基准。

    Oct, 2019

  • 基于门卷积神经网络的方面情感分析

    本文研究了利用卷积神经网络和门机制的模型，提高方面基情感分析的准确性和效率。该模型的提出主要在于采用了 Gated Tanh-ReLU Units 来根据给定的方面或实体选择性地输出情感特征。实验结果显示其在 SemEval 数据集上的性能优越。

    May, 2018

  • 提高 BERT 对于基于方面的情绪分析的表现

    本文介绍了基于深度学习模型 BERT 的两个模块 Parallel Aggregation 和 Hierarchical Aggregation， 用于 Aspect-Based Sentiment Analysis 中的 Aspect Extraction 和 Aspect Sentiment Classification， 改善了模型的性能。

    Oct, 2020

  • NTUA-SLP 在 SemEval-2018 任务 1 中使用深度注意力循环神经网络和迁移学习来预测推文中的情感内容

    本文介绍了在 SemEval-2018 挑战赛中参赛的深度学习模型及其应用。采用 Bi-LSTM 网络结构和多层自注意力机制，利用大量 Twitter 数据的 word2vec 词向量嵌入和情感特征，通过预先训练 Semeval 2017 年的数据集进行迁移学习，最终在多个子任务中取得了显著的结果。

    Apr, 2018

  • ATESA-BÆRT: 一个用于基于方面的情感分析的异构集成学习模型

    针对多方面情感分析问题，本研究提出了一种名为 ATESA-BÆRT 的异构集成学习模型，通过将问题划分为两个子任务（Aspect Term Extraction 和 Aspect Term Sentiment Analysis）并在每个子任务上使用六个基于 transformer 的学习器，使用 argmax 多类别分类方法，解决了多方面问题并且在实验中表现优于当前最先进解决方案。

    Jul, 2023

  • 关于方面情感分析的稳健性：对模型、数据和训练的重新思考

    本研究针对情感分析在实际应用中的可靠性进行了探究，通过加强当前最佳的句法感知模型，并基于丰富的伪数据进行敌对训练，进一步提高了模型的鲁棒性。实验结果表明，所提出的方法比现有的基线模型的鲁棒性性能更好，同时合成语料库作为额外数据能够进一步提高测试准确性。

    Apr, 2023

  • 基于 BERT 与构建辅助语句的方面情感分析

    本研究使用 BERT 模型，将 ABSA 转换为句对分类任务，取得了 SentiHood 和 SemEval-2014 Task 4 数据集的最新最佳结果，旨在识别特定方面的细粒度观点极性。

    Mar, 2019