prompt-tuning | BriefGPT - AI 论文速递

关键词prompt-tuning

搜索结果 - 28

EMNLPPrompt-Tuning 在使用多语言语言模型进行跨语言理解方面比 Fine-Tuning 更好
本研究研究了预训练多语言语言模型在零样本跨语言模型传递中的应用，使用 prompt-tuning 进行多语言 NLU 任务（包括句子分类、序列标注和问题解答）中的跨语言评估，并与传统的微调方法进行了比较。结果表明，prompt-tuning
PDF2 years ago
ACL使用 Prompt-Tuning 构建个性化对话系统
本研究通过使用 persona 来建立具有一致性反应的对话系统，提出了一种基于预训练的大型语言模型的 prompt 调节方法，在英语和日语方面的自动和手动评估结果表明，这种方法可以建立具有更自然和个性化反应的对话系统，而且计算资源较少。
PDF2 years ago
EMNLP预训练语言模型在长尾学习中的应用
通过实证研究，发现 prompt-tuning 可以成为良好的 long-tailed 学习器，并探究了该方法背后的关键因素是分类器结构和参数化，而非输入结构。该结果也适用于 few-shot 分类任务。
PDF2 years ago
EMNLP预训练语言模型的对比演示调整
本文提出一种新颖的对比演示调整方法，它是可插拔、可扩展和高效的，可用于调整预先训练的语言模型来执行分类任务。实验结果表明，这种方法与先前的方法 LM-BFF 和 P-tuning 相结合可以提高性能。
PDF2 years ago
Input-Tuning: 适应冻结预训练模型的不熟悉输入
本文提出了 input-tuning 的概念，旨在通过 fine-tuning 连续提示和输入表示来更有效地适应陌生的自然语言生成任务输入，实验证明它可以显著且一致地胜过 prompt-tuning。
PDF2 years ago
从预训练语言模型中引发知识，以实现典型提示语言生成
本研究探讨了如何从预训练语言模型中提取知识，提出了一种基于原型的提示语言生成器，以优化模型并实现有效的零样本和少样本分类。
PDF2 years ago
ACL知识化提示微调：将知识融入文本分类的提示语生成器
本文关注于将外部知识融入语言模型的提示操作，形成知识型提示微调，以提高和稳定性能，实验证明其在评论分类任务中有效。
PDF3 years ago
WWWKnowPrompt：基于知识感知和协同优化的关系抽取触发器调优
我们提出了一种知识感知的提示调整方法，名为 KnowPrompt，用于关系提取，即将潜在知识注入到提示构建中，并通过结构约束进行协同优化，该方法在五个数据集上的实验结果表明其有效性。
PDF3 years ago