Jul, 2023

SentimentGPT：利用 GPT 进行高级情感分析及其与当前机器学习的区别

PDF
TL;DR本研究以简单明了的方式，对各种生成预训练变压器（GPT）方法在情感分析中的应用进行了全面的探讨，特别是在 SemEval 2017 数据集的第四项任务中。通过三种主要策略：1）使用先进的 GPT-3.5 Turbo 进行提示工程，2）对 GPT 模型进行微调，3）一种创新的嵌入式分类方法。研究结果详细比较了这些策略和单独的 GPT 模型，揭示了它们的独特优势和潜在限制。此外，该研究将这些基于 GPT 的方法与其他同时使用该数据集的高性能模型进行了比较，结果显示 GPT 方法在预测性能方面具有显著优越性，F1 分数超过现有技术水平 22% 以上。该研究还探讨了情感分析任务中的常见挑战，如理解上下文和检测讽刺，强调了 GPT 模型在有效应对这些复杂性方面的增强能力。这些发现共同突显了 GPT 模型在情感分析中的巨大潜力，并为该领域的未来研究铺平了道路。
generative pretrained transformersentiment analysissemeval 2017 datasetgpt modelspredictive performance
发现论文，激发创造
  • 基于 LLM（GPT-3）的情感分析的优化技术

    本论文旨在探索基于大型预训练语言模型（如 GPT-3）的情感分析优化技术，以提高模型性能和效果，并进一步促进自然语言处理（NLP）的发展。通过介绍情感分析的重要性和传统方法的局限性，介绍了 GPT-3 和微调技术，并详细解释了它们在情感分析中的应用。实验结果表明，微调技术可以优化 GPT-3 模型，在情感分析任务中获得良好的性能。本研究对未来使用大规模语言模型进行情感分析提供了重要的参考。

    May, 2024

  • GPT 是否具备分析表情包情感的能力？

    本研究旨在探索 GPT-3.5 作为大型语言模型在处理互联网迷因情感分析方面的能力，包括迷因情感分类、幽默类型确定和隐性仇恨迷因检测。评估结果表明，尽管 GPT 取得了显著进展，但仍然面临内在限制，包括对上下文的理解、隐含含义的解释和数据偏见等。该研究对 AI 在处理复杂的、依赖上下文的任务方面的适用性进行了探讨，为未来的发展提供了有价值的见解。

    Nov, 2023

  • 使用 ChatGPT 改进金融领域的情感分析

    使用大型语言模型 ChatGPT 3.5 进行金融情感分析，特别关注外汇市场，通过零样本提示方法的探究，比起金融文本情感分析模型 FinBERT，ChatGPT 表现出了大约 35% 的情感分类性能提升以及 36% 更高的与市场回报的相关性，强调了提示工程在零样本上下文中的重要性，突显了 ChatGPT 在金融应用中显著提升情感分析的潜力，并分享所使用的数据集以促进该领域的进一步研究与发展。

    Aug, 2023

  • ChatGPT 在情感分析中的表现如何？初步研究

    本文通过标准测试、极性转移测试、开放域测试和情感推理测试等方法，对 ChatGPT 在理解文本中的意见、情感和情绪方面进行了初步评估，并与 Fine-tuned BERT 和现有的端到端情感分析模型进行了比较，并进行了人工评估和定性分析。

    Apr, 2023

  • 利用 ChatGPT 作为文本标注工具进行情感分析

    本研究探讨了 ChatGPT 作为数据标记工具用于不同情感分析任务中的应用，结果表明相较于基于词汇表的算法，ChatGPT 在准确性方面有了显著提高，可用于不同的事件和任务情感分析的标注工作。

    Jun, 2023

  • GPT-4 在需要高度专业领域知识的文本数据分析任务中的支持能力？

    本文评估了生成式预训练转换 (GPT-4) 对高度专业领域的文本数据分析任务的能力，特别关注分析法院裁决以解释法律概念的任务。我们发现，在注释指南的提示下，GPT-4 的表现与经过良好培训的法律学生注释器相当。我们发现，虽然性能略有下降，但 GPT-4 可以进行批量预测，从而降低成本。然而，采用连贯思维提示并没有在此任务上明显提高性能。此外，我们演示了如何分析 GPT-4 的预测，以识别和减轻注释指南的缺陷，进而提高模型的性能。最后，我们观察到该模型非常脆弱，因为提示中的小型格式相关更改对预测结果影响很大。这些发现可被从事高度专业领域任务的文本语义 / 语用注释的研究人员和实践者利用。

    Jun, 2023

  • BERT 与 GPT 在金融工程中的比较

    该研究对多个 Transformer 模型进行基准测试，展示了这些模型如何从新闻事件中判断情感。这个信号随后可用于下游建模和商品交易的信号识别。我们发现，在这一任务中，微调的 BERT 模型优于微调或原版的 GPT 模型。研究还提出了 CopBERT 模型，它在域特定的 BERT 训练模型（如 FinBERT）的性能上表现更好。综上所述，BERT 模型可能不会成为下一个 XGboost，但对于需要融合可解释性和准确性的金融工程任务来说，它代表了一个有趣的选择。

    Apr, 2024

  • GPT 模型在机器翻译中有多好？一项全面评估

    本研究对 GPT 模型在机器翻译方面的表现进行了全面评估，涵盖了许多方面，如与最新研究和商业系统的不同 GPT 模型的质量比较，提示策略的效果，域转换和文档级翻译的鲁棒性。实验覆盖了 18 个不同的翻译方向，包括高资源和低资源语言以及非以英语为中心的翻译，评估了三个 GPT 模型：ChatGPT，GPT3.5 (text-davinci-003) 和 text-davinci-002。实验结果表明，对于高资源语言，GPT 模型达到了极具竞争力的翻译质量，而对于低资源语言的能力却有限，同时也证明了混合方法（将 GPT 模型与其他翻译系统相结合）可以进一步提高翻译质量。我们进行了全面的分析和人工评估，以进一步了解 GPT 翻译的特点。我们希望我们的论文为研究人员和实践者提供有价值的见解，并有助于更好地理解 GPT 模型在翻译方面的潜力和局限性。

    Feb, 2023

  • 轮询潜在观点：使用变换器语言模型的计算机社会语言学方法

    使用 Transformer Language Models 等方法对 Yelp 评论进行语言行为学习，并利用 prompt-based queries 生成合成文本以分析特定观点，证明即使在缺乏特定关键词的情况下，这些模型也能准确产生具有正确情感的大量文本。

    Apr, 2022

  • 利用 GPT-3 扩充数据，提高短文本分类的性能

    该研究针对 GPT-3 模型训练数据不足的问题，通过自动生成的样本增强小型训练集，在数据科学相关问题分类任务中比较了两种分类器的效果，证明了给予大型机器学习模型如 GPT-3 自己提出附加训练示例可以提高分类性能的结论。

    May, 2022