Sep, 2022

零样本和少样本学习在生成模型创意应用的人机交互中的机遇与挑战

PDF
TL;DR通过提示将零样学习和少样学习赋予 AI 新任务的方法是一种用于人工智能交互的新范例。本文分析了使用提示作为新范式的交互式创意应用程序的关键机遇和挑战，并提出了四个设计目标。我们重点关注创意写作的用例，提出了具体的 UI 设计草图，HCI 和 AI 研究社区可以以此为起点，开发出适当的用户界面，用于零样学习和少样学习模型。
generative modelspromptinghuman-ai interactionuser interfaceszero-shot learning
发现论文，激发创造
  • 基于大型语言模型的交互式和可视化提示工程，用于即席任务适应

    本文介绍了一种使用神经语言模型的 zero-shot prompting 方法，在不需要监督训练的情况下解决 ad-hoc 语言任务。我们提出了 PromptIDE 工具，该工具可以帮助用户实验不同的提示词选择，以达到任务指标的优化和数据量的扩展。该工具已在多个现实世界的案例中得到了应用。

    Aug, 2022

  • 大型语言模型的提示式编程：超越少样本范式

    使用 GPT-3 模型分析得出少量样例引导更接近于已学习的任务，本文探讨使用自然语言编程来优化引导，提出元引导概念后能够生成更多的任务自然语言引导，展望这些方法如何应用于实践应用。

    Feb, 2021

  • 关于上下文学习中零样本提示设计的实际调查

    该论文综述了大型语言模型在自然语言处理任务中的重要性，并聚焦于不同类型的提示（如离散、连续、少样本和零样本）及其对模型性能的影响。论文探讨了手动设计、优化算法和评估方法等多种提示设计方法，以优化模型在不同任务中的性能。此外，论文还讨论了评估提示性能所面临的挑战，并指出了提示设计在充分利用大型语言模型的潜力中的关键作用，为在自然语言处理任务中更有效、更高效地使用大型语言模型提供了启示。

    Sep, 2023

  • 提示驱动模型真正理解其提示的含义吗？

    本研究证实了即使是故意无关或甚至有误导性的提示，也可以让一些零样本或少样本学习模型像 “好” 的提示一样快地进行学习，这一模式适用于模型尺寸大小，这引出一个问题，问这种改进是不是源于模型像人类一样理解掌握任务提示。

    Sep, 2021

  • AI 生成文本的零射频检测中提示的影响

    本研究介绍了一种评估框架，以实证分析提示对 AI 生成文本检测准确性的影响，我们评估了多个零样本检测器，揭示了提示对检测准确性的显著影响。

    Mar, 2024

  • 文本到图像模型的最佳提示及其发现方法

    本研究使用基因算法，结合人类反馈，学习组合最有用的提示关键字，以改善使用描述生成艺术图像的美感。

    Sep, 2022

  • 预训练语言模型为什么比零 / 少样本学习者更好？

    本文提出了一种理论框架，以解释在零 / 少样本场景下提示学习的功效，我们进一步假设语言差异可以衡量提示的质量，并且通过基于 perplexity 的注释无关模板选择方法，使我们能够提前预测提示性能。

    Sep, 2022

  • 写作提示真的能创造艺术吗？

    本研究探讨了基于文本提示的生成式机器学习系统，分析了语言描述的局限性、数据集的影响以及物质性和具体化等因素，最终总结了基于文本提示的系统所带来的创造性可能性，询问它们是否可以被视为一种新的艺术媒介。

    Jan, 2023

  • Gen-Z: 基于上下文化标签描述的生成式零样本文本分类

    Gen-Z 是一种用于零食文本分类的生成提示框架，通过在标签的自然语言描述上依赖语言模型的可能性来改善任务性能，并在多个标准分类基准上展现了优越性能。

    Nov, 2023

  • 克服提示扰动敏感性的零样本方法

    该研究旨在在零 - shot 设置中找到高质量的 prompt。我们的自动化方法使用位置、推理和释义技术生成多个与基本 prompt 类似的 prompt，然后使用新的度量标准对这些 prompt 进行排名。我们实验证明，排名靠前的 prompt 是高质量的，显著优于基本 prompt 和使用 few-shot learning 生成的 prompt，适用于句子级情感分类任务。

    May, 2023