Jun, 2024

多提示解码器有助于更好的语言理解

PDF
TL;DR提出了一种用于适应 Model-as-a-Service 预训练语言模型的多提示解码器（MPD）框架，在少数据情况下通过多个不同的提示查询语言模型，从而提高了解码的质量和数据的利用率，实验结果表明在多个自然语言理解数据集上取得了最新的最好效果。
pre-trained language modelsmodel-as-a-serviceoutput-side adaptationmulti-prompting decoderfew-shot setting
发现论文，激发创造
  • 多提示与深度分割的跨模态学习

    本研究提出了分区多模态提示方法（PMPO），将软提示从单个可学习提示扩展到多个提示，以捕获视觉表示的分层上下文深度。此外，我们结合手动设计的模板和可学习的多提示，以提高方法的泛化能力，并在新类别概括、跨数据集评估和领域泛化等三项具有挑战性的任务上验证了它的有效性。

    May, 2023

  • MPrompt: 多级提示调优在机器阅读理解中的探索

    该研究提出了一种多级提示调优方法来增强机器阅读理解，通过利用任务特定、领域特定和上下文相关的提示，提高了输入语义在不同层次上的理解能力。同时，引入了独立性约束来避免冗余，并利用上下文相关知识生成合适的提示。在各种问答格式的 12 个基准测试中进行了广泛实验，相比最先进的方法，平均改进率达到了 1.94%。

    Oct, 2023

  • 硬件感知并行提示解码用于 LLM 推理的内存高效加速

    提出一种新颖的并行提示解码方法，仅需 $0.0002$% 的可训练参数，在 16 小时内可在单个 A100-40GB GPU 上进行高效训练，大大提高多令牌生成的接受率以及未来时间步骤的输出生成速度。

    May, 2024

  • 解码器调优：以解码为基础的有效语言理解

    本研究提出 Decoder Tuning 方法，通过优化解码器网络来适应具有冻结参数的预训练模型，并只需要一个 API 查询，可以实现一千倍的加速。

    Dec, 2022

  • DeMPT: 解码增强的多阶段提示调整，使 LLM 更好地理解上下文并提供翻译

    该论文通过提出一种名为 Decoding-enhanced Multi-phase Prompt Tuning（DeMPT）的选择性适应方法，使得仅通过解码器的大型语言模型能够有针对性地模拟和利用句内和句间上下文，并在语篇建模中显著改进模型性能。

    Feb, 2024

  • BayesPrompt: 通过去偏领域抽象在少样本推断中对大规模预训练语言模型进行提示

    通过将已知分布近似为去偏的目标领域的真实分布，并从近似分布中均匀采样一定的代表性特征，生成 PLMs 的最终提示，我们的方法在基准测试中实现了最先进的性能。

    Jan, 2024

  • 面向预训练语言模型的黑盒提示学习

    本文提出了一种针对预训练语言模型的黑盒离散提示学习方法，实现了在云端和边缘设备之间的高效协作，并在此基础上对各种数据大小、提示长度、训练预算、优化目标、提示可转移性和解释方面进行了深入的案例研究，证明了该算法在 8 个基准测试中取得了显著的改进。

    Jan, 2022

  • 帮助语言模型学习更多知识：多维任务提示用于少样本调整

    通过提出多维任务提示学习方法（MTPrompt），将更多的任务相关信息嵌入提示中，以激发大型语言模型中嵌入的知识，从而实现在少样本和五个不同数据集上取得最佳结果，并在不同实验设置和削减实验中展示了该方法的有效性和稳定性。

    Dec, 2023

  • 迭代式提示预训练语言模型进行思维链构建

    本研究探索了一个迭代提示框架，用于让预训练语言模型具有多步推理能力，我们提出了一种基于上下文的迭代提示器，可以动态地合成提示，以捕捉不同推理步骤之间的变化。实验证明，该方法在多步推理方面具有很好的效果。

    Mar, 2022

  • MSP: 提升预训练语言模型翻译表现的多阶段提示方式

    Multi-Stage Prompting 可以将 pre-trained language model 应用到 translation tasks 中以达到更好的翻译效果。该方法通过将翻译过程分为编码阶段、重新编码阶段和解码阶段，分别在这些阶段中应用不同的提示，从而显著提高了 pre-trained language model 在三个翻译任务中的表现。

    Oct, 2021