本文提出了一种演示为基础的命名实体识别学习方法，研究了演示策略对模型在低资源情况下性能的影响，并在领域内学习和领域适应中证明了良好的演示可以节省很多标记示例并促进更好的性能表现。

Oct, 2021

本研究分析显示：大型语言模型不需要准确的演示，而是通过演示提供的标签空间、输入文本的分布和序列的整体格式等方面驱动任务表现的提高。因此，揭示了语境学习的原理和作用方式，同时提出了新的问题，即能否仅仅通过推理来学习大型语言模型的更多内容。

Feb, 2022

语言模型特别是预训练大型语言模型，在上下文少例学习方面表现出非凡的能力，能够在输入上下文中仅通过几个示例适应新任务。最近的一个发展是使用对每个输入查询量身定制的示例进行检索，这不仅提高了学习过程的效率和可伸缩性，还能减少手动示例选择中固有的偏差。基于鼓舞人心的结果和对检索式少例学习领域日益增长的研究，我们对该领域的研究进行了广泛的概述回顾，在此调查中，我们讨论并比较了检索模型、检索训练程序和推理算法的不同设计选择。

Jan, 2024

利用演示可以显著提高模型学习效率，在这项工作中，我们确定了利用演示进行模型学习的关键因素，即策略预训练，有针对性的探索和演示数据的过采样，这三个阶段构成了我们的基于模型的 RL 框架。

Dec, 2022

通过挑选与预测样本分享特定信息的示范来区分少样本学习者的能力，结果表明现有的少样本学习者不利用信息，并且暴露了训练真正的上下文学习者的挑战。

Dec, 2022

本文提出了模仿式演示学习（Imitation-Demo）方法，通过对人类审查行为的明确模仿来加强演示学习，进而增强提示和演示之间的关联性，从而在 14 个分类语料库中取得了显著的性能提升。

Aug, 2022

本文提出一种新颖的对比演示调整方法，它是可插拔、可扩展和高效的，可用于调整预先训练的语言模型来执行分类任务。实验结果表明，这种方法与先前的方法 LM-BFF 和 P-tuning 相结合可以提高性能。

Apr, 2022

提出了一种名为 Self-Demos 的新方法，通过查询感知的演示生成，插值生成了介于现有演示和给定查询之间的演示，以实现有限的演示和非演示查询的关联。在实验中展示了该方法在非演示设置中优于现有基线模型，并进行了一系列分析以验证 Self-Demos 的泛化性能和提供更多的见解。

Apr, 2024

本文从贝叶斯的角度出发，将大型语言模型视作主题模型，提出了一种从标注数据中选择最佳示范的算法，并在实际数据集中证明相对于随机选择基线，平均有 12.5% 的显著改进。研究表明，大型语言模型从示范中隐式地推断出潜在的概念变量。

Jan, 2023

近期，对于将大型语言模型应用于零样本段落排名的兴趣日益增加。本文关注于如何选择适当的上下文演示来进行段落排名任务，并提出了 DemoRank 框架，通过检索再排序的过程解决了这个问题，并在域内和域外的场景中展示了其有效性。

Jun, 2024