Apr, 2024

金融情感分析的迁移学习和 Transformer 架构

PDF
TL;DR金融情感分析中的预训练语言模型和迁移学习原则可有效解决特殊的金融领域情感分析困难，同时考虑到像 COVID 这样疫情的因素，对两组不同数据进行情感分析，并使用较小的训练集对模型进行微调。
financial sentiment analysiscredit scoringpre-trained language modeltransfer learningpandemics
发现论文，激发创造
  • FinBERT：使用预训练语言模型进行金融情感分析

    本文提出了一种名为 FinBERT 的基于 BERT 预训练语言模型，用于在金融领域处理自然语言处理任务，实验结果表明它在当前两个金融情感分析数据集上的表现优于现有的机器学习方法。

    Aug, 2019

  • 低资源情感分析的迁移学习

    本文描述了对库尔德语数据的情感分析数据集的收集和注释，并探讨了几种经典的机器学习和神经网络技术以及数据增强的方法。我们证明了数据增强可以在难度较大的情况下实现高的 F1 分数和准确性。

    Apr, 2023

  • 通过转移学习的自然语言处理研究：情感分析实证研究

    通过预训练的 BERT 模型实现传递学习来增加情感分类的准确性，虽然结果完全正确，但仍需要进一步研究来验证模型的泛化能力。

    Nov, 2023

  • 金融情绪分析的预训练大型语言模型

    金融情感分析是将金融文本内容分类为情感类别（如积极、消极和中性）。本文聚焦于金融新闻标题的分类，通过利用预训练的大型语言模型以及监督微调技术，实现在少量训练样本情况下显著超越之前最先进的算法。

    Jan, 2024

  • 使用 Transformers 和情感分析支持股票趋势预测

    本文利用 Transformers 模型和情感分析结合了技术股票数据和头条新闻数据，以准确预测股票趋势。与 RNN 相比，我们的模型在预测时间窗口为 30 个工作日的情况下将方向准确性提高了近 18.63％。

    May, 2023

  • 基于 Transformer 的情感检测方法

    本研究探讨了采用不同类型的最先进的转换器模型对文本分类的性能，发现其中 RoBERTa 模型在测试数据集上表现最佳，可用于文本中灾难的检测。此外，我们发现预处理技术，词汇表中单词的性质，不平衡标签和模型参数对学习算法的性能产生影响。

    Mar, 2023

  • 句子情感的可控转换

    本文提出了一种利用情感分类器和自编码器改变句子情感以生成更多训练数据的自动化流程，并使用词向量模型得出了 54.7% 成功率的实验结果。

    Jan, 2019

  • 基于大型预训练语言模型的实用文本分类

    本文提出利用大规模无监督语言建模与微调相结合的方法来解决情感多维度分类问题，并在 SemEval2018 Task 1:E-c 上获得竞争力和实际应用价值，成果表明这种方法可以用于真实情感分类任务。

    Dec, 2018

  • 利用心理语言学特征和 Transformer 提升基于文本的情感检测的泛化能力

    本文采用基于转换器模型和双向 LSTM 网络的方法，结合心理语言学特征进行基于文本的情感检测，在两个基准数据集中表现出可比性，在六个统一情感数据集的迁移学习实验中表现出强大的跨领域泛化功能。

    Dec, 2022

  • 使用未标记数据对基于 Transformer 的模型进行领域自适应，用于德语客户反馈的相关性和极性分类

    利用不同基于 Transformer 的模型探索分析德语顾客反馈数据集的效率，进一步分析预训练模型是否使用无标签数据适应特定领域会比现成模型获得更好的结果，实验结果表明，这些预训练模型取得了显著改进，超过了已发表的成绩和以前的模型。

    Dec, 2022