bert fine-tuning | BriefGPT

关键词bert fine-tuning

搜索结果 - 6

使用预训练语言模型的立场检测教程：BERT 微调与大型语言模型引导
本文提出了两个自包含教程，介绍了使用 BERT fine-tuning 和使用大型语言模型（LLMs）进行推特数据中的立场检测的方法。第一个教程解释了 BERT 架构和标记化，引导用户进行训练、调优和评估使用 HuggingFace tra
PDFa year ago
基于上下文 BERT 调整的阅读理解自动评分
本文介绍了一种利用在场 BERT 调整的方法来解决在多问题共享阅读材料的阅读理解测试中的自动评分问题，并证明了这种方法的有效性。
PDF2 years ago
隐私保护 BERT 的自然语言理解
在自然语言理解和数据挖掘中，隐私保护仍然是一个关键的挑战。本文研究了对预先训练的语言模型应用局部差分隐私的隐私保护方法，并指出了这种方法在 BERT 细调中的实用性和隐私性的影响，同时提出了隐私适应性的语言模型预训练方法，可以显著提高 BE
PDF3 years ago
针对越南评论的情感分析 BERT 微调
本文介绍了使用 BERT fine-tuning 方法处理越南评论数据集中情感分析任务的实验结果，并且发现相比于使用 GloVe 和 FastText，使用 BERT 模型略胜一筹。同时，本文研究提出的 BERT fine-tuning 方
PDF4 years ago
AAAI针对基于模式引导的零样本对话状态跟踪进行 BERT 微调
本文提出了一种基于预训练语言模型 BERT 微调的无监督对话状态跟踪系统 (SGP-DST)，它包括意图预测、关键词填充、槽传递预测和用户状态总结 4 个模块，是目前在第八届对话系统技术挑战赛中排名第三的解决方案。
PDF4 years ago
用于机器翻译和自然语言理解的语法注入 Transformer 和 BERT 模型
本论文研究了通过将句法信息与深度学习模型相结合，提高自然语言处理任务的性能表现，对多特征的语法 - Transformer 进行了测试，发现在完整数据集和部分数据集中，BLEU 得分都有明显提升，同时，在 GLUE 基准测试中，语法嵌入的
PDF5 years ago