Aug, 2024

推特/X情感分析中的多语言模型微调研究：针对东欧V4语言

HTML
PDF
TL;DR本研究针对在推特/X数据中应用的基于方面的情感分析（ABSA），解决了小语种情感分类的不足问题。通过微调多种大型语言模型，发现部分模型在多语言推特任务中的微调表现优越，可以在较小的训练集上达到最新的技术水平。研究结果揭示了最佳设置的组合，可能对小语种情感分析领域产生重要影响。
发现论文，激发创造
  • XLM-T：用于社交媒体情感分析等多语言语言模型在Twitter中的应用

    本文介绍了XLM-T模型，用于在Twitter中训练和评估多语言语言模型，并提供了新的强大的多语言模型基线和一组统一的不同语言的情感分析Twitter数据集和针对它们进行的XLM-T模型微调。

    Apr, 2021

  • 大规模多语言情感分类器评估

    研究评估11种模型在27种语言中进行情感分析任务。

    Apr, 2022

  • SemEval-2023任务12中的UIO：低资源语言情感分类的多语言微调

    本研究旨在探讨如何利用多语言大型语言模型进行非预训练语言的情感分析，实验结果表明在提供的数据集中，使用数千样本的单语言微调可以获得最佳效果。

    Apr, 2023

  • SemEval-2023任务12：通过多语言预训练语言模型微调实现低资源语言文本分类

    本研究利用多种多语种XLM-R模型和多样数据集，针对AfriSenti-SemEval 2023共享任务12的非洲语言情感分析模型进行了研究，最终在 Subtask B, Track 16: 多语言中获得了第三名的好成绩，但在某些语言表现不佳，表明需要建立更全面的数据集和模型来推进低资源非洲语言的情感分析研究。

    May, 2023

  • 大规模多语种情感数据集和多方面情感分类基准

    该研究提供了一个由79个数据集组成的开放性跨语言语料库，可用于培训情感模型，同时展现了基于不同基础模型、训练目标、数据集集合和微调策略所进行的数百次实验的多方面情感分类基准。

    Jun, 2023

  • LLM对零样本和少样本提示的比较研究：孟加拉情感分析的微调模型

    本研究通过33,605条孟加拉文新闻推文和Facebook评论创建了一个庞大的手动注释数据集，并对Flan-T5、GPT-4和Bloomz等多种语言模型进行了零指导和少量指导的上下文学习，与精细调优模型进行了比较分析。研究结果表明，在零指导和少量指导的场景下，单语言变换器模型始终优于其他模型。为了促进进一步的研究探索，我们打算向更广泛的研究社区公开提供这个数据集和我们的研究工具。

    Aug, 2023

  • 大型语言模型用于方面级情感分析

    使用零痕迹、少痕迹和微调模型在纵向情感分析任务上评估了GPT-4和GPT-3.5的性能，结果显示微调的GPT-3.5在SemEval-2014任务4的联合方面术语提取和极性分类任务上获得了83.8的最优F1分数，比InstructABSA提高了5.7%，但模型参数增加了1000倍，推理成本也增加了。我们讨论了不同模型的性价比和分析了它们的典型错误。同时，我们的研究结果表明，在零痕迹和少痕迹环境中，详细提示可以提高性能，但对于微调模型来说并非必要。这些证据对于在ABSA中使用LLMs时面临提示工程和微调选择的实践者具有相关性。

    Oct, 2023

  • 大语言模型时代的跨语言情感分析模型竞技场：一项比较研究

    在跨语言情感分析领域，公共的小型多语言语言模型在零样本跨语言性能上优于大型通用语言模型，但在少样本跨语言设置中，公共的大型通用语言模型展现出更高的适应潜力。

    Jun, 2024

  • 使用大型语言模型对立陶宛在线评论进行情感分析

    本研究针对立陶宛在线评论的情感分析问题，填补了当前对这一语言的研究空白。我们首次应用了预训练的多语言大型语言模型（LLMs），特别关注于微调BERT和T5模型，取得了显著的识别准确率。该研究的结果表明，微调后的模型在情感不模糊的情况下表现优异，并超越了目前最先进的商业模型GPT-4。

    Jul, 2024

  • 单一真实值不足：在基于方面的情感分析评估中增加语言变异性

    该研究解决了基于方面的情感分析（ABSA）评估中仅依赖单一真实值的问题，提出了一种新颖的自动化流程，通过增加替代有效响应来扩展现有测试集。这一方法提高了对语言模型的评估公平性，实验结果显示，与传统测试集相比，人类一致性有显著提高，表明大型语言模型在ABSA任务中的能力可能被低估。

    Oct, 2024