KDDJun, 2023

KnowPrefix-Tuning: 基于知识的双阶段前缀调整对话生成功能框架

PDF
TL;DR为了简化知识导引对话系统的检索过程，本文提出了一种利用预训练语言模型中的固有知识编码的轻量级知识前缀注入方法，称为 Knowledgeable Prefix Tuning，并提出一种新颖的交互式重新参数化机制，使前缀完全与语言模型交互，并在实验中得到了成功的应用。
knowledge-grounded conversation systemspre-trained language modelsknowledgeable prefix tuninginteractive re-parameterizationretrieval-based baselines
发现论文，激发创造
  • Prefix-Tuning: 优化连续提示用于生成任务

    本文提出字首调整 (prefix-tuning)，来解决专用模型使用全量预训练语言模型的空间问题，自动学习小、定制化的向量。通过应用于自然语言生成和文本总结，仅使用 0.1% 的参数即能达到很好的性能。

    Jan, 2021

  • 知识感知的大语言模型微调

    使用知识感知微调（KnowTuning）方法解决大型语言模型在自然语言处理任务中的知识感知不足问题，并在通用和医疗问答数据集上进行了广泛的实验证明了其有效性，并展示了其在未知问答数据集上的泛化能力。

    Feb, 2024

  • 将知识融入文档摘要生成：基于 Prefix-Tuning 和 GPT-2 的应用

    本文提出了基于前缀微调（prefix tuning）的方法，使用一组可训练的连续前缀提示和离散提示来辅助模型生成，显著提高了使用 GPT-2 生成的 CNN/Daily Mail 和 XSum 摘要的事实保留。此方法在知识增强的文档摘要中表现出了其有效性，并显示了在其他自然语言处理任务中的巨大潜力。

    Jan, 2023

  • Inducer-tuning: 连接 Prefix-tuning 和 Adapter-tuning

    本文提出了通过核方法理解 prefix-tuning，并将其发展为 inducer-tuning 来提高其性能，通过自然语言理解和生成任务的综合实验，证明了 inducer-tuning 可以缩小 prefix-tuning 和 fine-tuning 之间的性能差距。

    Oct, 2022

  • 以用户为中心的前缀调优是个性化图像字幕的良好学习器

    我们提出了一种个性化的图像描述框架，通过融合用户上下文以考虑个性因素并从一个冻结的大型语言模型中提取知识来减小不同语言领域之间的差距，提高了模型的效率和效果。我们的模型在 Instagram 和 YFCC100M 数据集上比现有基准模型表现出更好的结果，包括在 BLEU-4 和 CIDEr 等指标上的两倍改进。

    Dec, 2023

  • 知识化提示微调：将知识融入文本分类的提示语生成器

    本文关注于将外部知识融入语言模型的提示操作，形成知识型提示微调，以提高和稳定性能，实验证明其在评论分类任务中有效。

    Aug, 2021

  • 多阶段提示的知识对话生成

    本研究提出一种多阶段提示方法，利用单个预训练语言模型生成知识响应，并通过对话上下文和先前生成的知识生成响应，其产生的响应知识性和参与度出色于微调对话模型。

    Mar, 2022

  • KnowPrompt：基于知识感知和协同优化的关系抽取触发器调优

    我们提出了一种知识感知的提示调整方法，名为 KnowPrompt，用于关系提取，即将潜在知识注入到提示构建中，并通过结构约束进行协同优化，该方法在五个数据集上的实验结果表明其有效性。

    Apr, 2021

  • 面向领域的前缀微调：用于零样本对话摘要的高效且具有通用性的微调方法

    本文提出了一种高效且通用的基于领域的前缀微调模型，利用领域词初始化前缀模块以减轻领域交错，采用离散提示来引导模型关注对话的关键内容并增强模型的泛化能力。我们在 TODSum 和 QMSum 数据集上进行了零 - shot 实验，并构建了领域自适应基准。充分的实验和定性分析证明了我们方法的有效性。

    Apr, 2022

  • 面向参数效率语言模型微调的自适应前缀调整

    本研究聚焦于前缀调整 fine-tuning 技术，并提出了自适应前缀调整（APT）方法，结合门控机制实现对细粒度和粗粒度级别的前缀优化，实证实现了在 SuperGLUE 和 NER 数据集上的有效性和效率验证。

    May, 2023