Dec, 2023

2023年VLSP的ComOM：基于BERTology和统一多任务指导调优模型的越南比较意见挖掘的双阶段框架

HTML
PDF
TL;DR我们提出了一个基于BERTology模型的两阶段系统，用于识别比较句子和提取比较元素，实验证明我们的方法优于其他竞争对手，并在官方私有测试中取得了最高分数。
发现论文，激发创造
  • 介绍两个用于评估（不）相似性和相关度语义模型的越南语数据集

    我们提供了两个新颖的数据集(ViCon和ViSim-400)来评估越南语这种低资源语言的语义相似性模型，其中ViCon包括了各种词类中的同义词和反义词对，ViSim-400则提供了人工评定的五种语义关系的相似程度，这两个数据集经过标准的共现和神经网络模型验证，显示出与相应英文数据集相媲美的结果。

    Apr, 2018

  • 使用基于Transformer的神经模型提升越南文本序列标注

    本文介绍了使用多语言BERT嵌入和一些新的神经模型，提高越南语序列标记任务的研究。我们提出了新的模型架构，在VLSP 2016和VLSP 2018两个命名实体识别数据集和VLSP 2010和VLSP 2013两个词性标记数据集上进行了广泛评估。我们的方法优于现有方法，并实现了新的最先进结果。

    Jun, 2020

  • 一份用于评估机器阅读理解的越南语数据集

    本研究为缺乏基准数据集的低资源语言（如越南语）创建了一个新的数据集UIT-ViQuAD，包含超过23000个由人类创建的问题-答案对和174篇来自维基百科的越南文章。通过用现有最先进的机器学习模型解决问题来比较联合测量人类表现和最佳模型表现的结果，结果表明，未来的研究可以提高越南MRC的准确度和性能。

    Sep, 2020

  • 针对越南评论的情感分析BERT微调

    本文介绍了使用BERT fine-tuning方法处理越南评论数据集中情感分析任务的实验结果，并且发现相比于使用GloVe和FastText，使用BERT模型略胜一筹。同时，本文研究提出的BERT fine-tuning方法也比原模型表现更好。

    Nov, 2020

  • SMTCE：越南社交媒体文本分类评估基准和BERTology模型

    该研究介绍了Social Media Text Classification Evaluation (SMTCE) 基准并使用各种多语言和单语BERT-based模型对多个SMTC任务进行了实现和分析。结果表明，单语言模型优于多语言模型，并在所有文本分类任务上取得了最先进的结果，这将有助于越来越多关于越南语BERT学习的未来研究。

    Sep, 2022

  • 有效微调LLM的多维数据精炼策略

    这篇论文介绍了在获取足够数据用于微调越南语言模型时所面临的挑战，以及使用这些数据进行微调得到的越南语模型的良好性能，提供了针对将来微调越南语等语言模型的实际解决方案和指导。

    Nov, 2023

  • 揭示越南产品评论中的比较情感：一种连续分类框架

    通过解决三个顺序子任务，我们提出了一种比较意见挖掘的方法，旨在识别和提取表达比较性情感的句子，并对越南产品评论中用户情感进行更深入的理解。在越南语言和语音处理（VLSP）2023年比较意见挖掘（ComOM）挑战中，我们的方法在排名中位居第五。

    Jan, 2024

  • VLSP 2023概述-- ComOM共享任务：基于越南产品评论的比较意见挖掘数据挑战

    本研究综述了越南产品评论比较观点挖掘的比较任务，该任务旨在通过开发从越南产品评论中有效提取比较观点的技术，推进自然语言处理领域。研究构建了一个人工标注数据集，包括120个文档、7427个非比较句和1798个句子中的2468个比较，参与模型根据完全匹配宏平均的五元组F1得分进行评估和排名。

    Feb, 2024

  • 跨越语言的视角：越南大型语言模型的微调和全面评估

    通过为越南语进行精细调整并开发了综合评估框架，我们发现精细调整的大型语言模型在越南语上表现出更好的理解和生成能力，并且模型规模和训练数据质量对模型的性能有重要影响。

    Mar, 2024

  • BERT-VBD：越南多文档摘要框架

    本研究解决了越南语多文档摘要中的有效方法缺乏的问题，提出了一种新颖的框架，将抽取式和生成式摘要技术相结合。通过改进BERT网络和应用VBD-LLaMA2-7B-50b模型，实验结果显示该框架在VN-MDS数据集上取得了39.6%的ROUGE-2评分，超越了现有的先进基线。

    Sep, 2024