May, 2023

克服提示扰动敏感性的零样本方法

PDF
TL;DR该研究旨在在零 - shot 设置中找到高质量的 prompt。我们的自动化方法使用位置、推理和释义技术生成多个与基本 prompt 类似的 prompt，然后使用新的度量标准对这些 prompt 进行排名。我们实验证明，排名靠前的 prompt 是高质量的，显著优于基本 prompt 和使用 few-shot learning 生成的 prompt，适用于句子级情感分类任务。
发现论文，激发创造
  • 零样机任务推广的提示一致性

    本文探讨了如何利用未标记的数据以提高自然语言处理任务的零样本性能，并通过规范提示一致性来鼓励模型的一致预测，并取得了实验结果上的进展和成果。

    Apr, 2022

  • 基于自然语言推理的跨语料零样本情感分类提示

    本研究通过分析不同的提示公式，以及使用基于自然语言推理的分类器，探讨零样本学习情感分类问题。并且通过使用多个提示公式的组合，实现了更加稳定且表现良好的情感分类。

    Sep, 2022

  • 提示驱动模型真正理解其提示的含义吗？

    本研究证实了即使是故意无关或甚至有误导性的提示，也可以让一些零样本或少样本学习模型像 “好” 的提示一样快地进行学习，这一模式适用于模型尺寸大小，这引出一个问题，问这种改进是不是源于模型像人类一样理解掌握任务提示。

    Sep, 2021

  • 预训练语言模型为什么比零 / 少样本学习者更好？

    本文提出了一种理论框架，以解释在零 / 少样本场景下提示学习的功效，我们进一步假设语言差异可以衡量提示的质量，并且通过基于 perplexity 的注释无关模板选择方法，使我们能够提前预测提示性能。

    Sep, 2022

  • 在零样本设置中评估多项选择任务的提示

    本文研究大型语言模型如何通过自然语言提示实现令人印象深刻的零 - shot 性能，归纳和标准化提示任务属性后，发现包含选项和使用未在预训练中使用的提示可以显著提高性能。

    Mar, 2022

  • AI 生成文本的零射频检测中提示的影响

    本研究介绍了一种评估框架，以实证分析提示对 AI 生成文本检测准确性的影响，我们评估了多个零样本检测器，揭示了提示对检测准确性的显著影响。

    Mar, 2024

  • 理解提示工程不一定需要重新思考普遍化

    通过经典的 PAC-Bayes 界限解释所产生的离散提示的性能表现良好，这为手动设计和生成过程中引导工程实践提供了可能的理论解释。

    Oct, 2023

  • 关于上下文学习中零样本提示设计的实际调查

    该论文综述了大型语言模型在自然语言处理任务中的重要性，并聚焦于不同类型的提示（如离散、连续、少样本和零样本）及其对模型性能的影响。论文探讨了手动设计、优化算法和评估方法等多种提示设计方法，以优化模型在不同任务中的性能。此外，论文还讨论了评估提示性能所面临的挑战，并指出了提示设计在充分利用大型语言模型的潜力中的关键作用，为在自然语言处理任务中更有效、更高效地使用大型语言模型提供了启示。

    Sep, 2023

  • Few-shot 和 Zero-shot NLU 任务中 Prompt 位置真的很重要

    通过最全面的实证研究，发现在自然语言理解任务中，提示位置对模型性能有很大的影响，提示模板的优化是一个有趣的研究方向。

    May, 2023

  • 自适应提示学习的基于少样本的情感分析

    本文提出了一种自适应提示构建策略，利用 seq2seq-attention 结构获取输入序列的语义信息，并动态构建自适应提示，可以改善提示的质量，且通过预训练的提示有效地推广至其他领域。在 FewCLUE 数据集上的实验证明了该方法的有效性和超过先前最先进方法的表现。

    May, 2022