May, 2023

评估用于分析波斯广告数据的 BERT 和 ParsBERT

PDF
TL;DR这篇论文探讨了互联网对现代交易的影响，以及从这些交易产生的数据对组织改善其市场营销努力的重要性。本文以伊朗的在线购买和销售产品和服务的市场 Divar 为例，并介绍了一个竞赛来预测在 Divar 网站上发布的汽车销售广告的百分比。作者在伊朗的低资源语言的背景下，使用了两种先进的语言模型，mBERT 和 ParsBERT，对这些数据进行了分析，提供了两种方法的性能比较，还详细介绍数据挖掘过程和机器学习问题类型和模式评估技术。
internet impactdata mininglanguage modelslow-resource languagesmachine learning
发现论文，激发创造
  • ParsBERT：基于 Transformer 的波斯语语言理解模型

    本文提出了一种用于波斯语的单语 BERT 模型（ParsBERT），并采用庞大的数据集进行预训练和各种自然语言处理任务，证明该模型相对于其他结构和多语言模型具有更好的性能。

    May, 2020

  • 使用 ParsBERT 和不平衡数据处理方法的波斯情感检测

    本文旨在评估和比较两种标记好的波斯语情感数据集（EmoPars 和 ArmanEmo）的性能，并通过使用数据增强技术、数据再平衡、类别权重和 Transformer-based Pretrained Language Models 等方法，解决数据不平衡问题，并提供了一种从高置信度样本中选择数据的策略，并在这些数据集上实现了 F1 分数的最优结果。

    Nov, 2022

  • 使用 Transformers 评估波斯语 - 英语机器翻译数据集

    本研究基于最受欢迎和有价值的平行语料库，将两种最先进的基于注意力的 seq2seq 模型应用于波斯语 - 英语机器翻译任务，旨在为研究人员提供标准基准，以评估其翻译结果。

    Feb, 2023

  • FaBERT：波斯语博客上的 BERT 预训练

    FaBERT 是一种基于波斯语的 BERT 基础模型，在 HmBlogs 语料库上进行了预训练，涵盖了波斯语的非正式和正式文本。在 12 个数据集上的综合评估中，FaBERT 在各种下游任务中持续展现出改进的性能，包括情感分析、命名实体识别、自然语言推理、问答和问题改写，且模型体积较小。研究结果凸显了利用多样化和清理过的语料库（如 HmBlogs）来提升波斯语自然语言处理应用中 BERT 等语言模型性能的重要性。可通过此网址免费访问 FaBERT。

    Feb, 2024

  • 波斯语情感分析：算法、方法和数据集综述

    本文回顾近年来关于波斯语情感分析的文章，分析了 40 种方法，包括使用机器学习和深度学习的转换器和神经网络，评估了这些方法对数据集的准确性，列出了 2018 至 2022 年的数据集和其详细信息。

    Nov, 2022

  • 使用 BERT 的波斯语命名实体识别模型 Beheshti-NER

    本文使用预训练的深度双向网络 Google BERT，建立了一个用于波斯语命名实体识别的模型，并在 CONLL 2003 评测任务中获得了较高的成绩。

    Mar, 2020

  • AraBERT：基于 Transformer 的阿拉伯语语言理解模型

    使用语言特定的 BERT 模型预训练，构建了 AraBERT 模型，以在阿拉伯语 NLP 任务方面实现最先进的表现。

    Feb, 2020

  • 基于阿拉伯语推文的预训练 BERT：实践考虑

    本研究使用不同规模的训练集、正式和非正式阿拉伯语以及不同的语言预处理方式对 BERT 进行预训练，旨在支持阿拉伯方言和社交媒体。实验证实了数据多样性与语言感知分词的核心作用，也证明了更多的数据或更多的训练步骤并不能保证更好的模型，最终得到的 QARiB 模型在一些下游任务中取得了最新的最佳结果。

    Feb, 2021

  • DeepSentiPers：基于增强波斯语情感语料库训练的新型深度学习模型

    本文旨在提出两种深度学习架构以及数据增强技术来分类波斯语句子的多分类和二分类情感，实验结果表明我们提出的方法可以成功地解决此问题。

    Apr, 2020

  • Pars-ABSA: 面向方面的波斯情感分析数据集

    本研究提供了一个经过三名母语为波斯语的人员验证的波斯语数据集（即 Pars-ABSA），并基于深度学习的一些最先进的基于方面的情感分析方法进行评估，结果显示与类似的英语最新成果相比表现出优异的表现。

    Jul, 2019