- 使用提示模板重构策略指导PLM进行ComVE的 SemEval-2020 任务4中的IIE-NLP-NUT
本文介绍了我们用于SemEval Task4的前两个子任务的系统，通过使用提示模板进行输入重构策略来澄清判断意图和注入对比信息以进行选择，并将子任务形式化为多选题形式来构建输入，然后，问题回答的最终预测被视为子任务的结果。实验结果表明，与基 - 大型语言模型的提示式编程：超越少样本范式
使用GPT-3模型分析得出少量样例引导更接近于已学习的任务，本文探讨使用自然语言编程来优化引导，提出元引导概念后能够生成更多的任务自然语言引导，展望这些方法如何应用于实践应用。
- 学会提问：使用软提示混合查询语言模型
本文探讨了使用渐进式的梯度下降机制为先前的预训练语言模型 Fine-Tuning 提供含监听词库的句子造句模式，以从中提取模型对于文本特征的认知，并使用软词向量进行任务综合, 将此方式与传统的任务方法进行对比，显示其在任务中的巨大性能提升， - 自然语言处理中提示方法的系统调查：预训练、提示和预测
该研究论文调查和组织了一种新兴的自然语言处理范式，这种范式被称为“基于提示的学习”，并在其中介绍了其基础知识和数学符号，以及其在预训练模型、提示和调整策略等方面的相关研究成果，该框架通过使用模板将输入x修改为具有一些未填充信息的文本字符串提 - 视觉语言模型的提示学习
本文介绍了如何使用CoOp, 一种基于学习来应用CLIP vision-language 模型用于下游图像识别任务的简单方法, 以解决使用自然语言描述类别来进行分类训练领域专业性强、耗时的问题，并证明其比手工制作的提示更好。
- SPoT: 通过软提示传递实现更好的冻结模型调整
本文介绍了一种使用少量参数进行预训练语言模型在下游任务中的应用实现，该方法名为SPoT：Soft Prompt Transfer，通过学习源任务的prompt来初始化目标任务的prompt，从而提升了Prompt Tuning的性能，并在语 - OpenPrompt：一个面向Prompt学习的开源框架
本研究提出了一个名为 OpenPrompt 的工具包，可以针对预训练的语言模型进行提示学习，具有高效性、模块化和可扩展性，使用户能够快速部署提示学习框架并在不同的 NLP 任务上进行评估。
- 引导偏离之谜：关于连续提示的离散化解释的探讨
为了研究对离散任务fine-tuning的紧凑替代方法，探讨了连续提示的离散（文本）解释的可行性，并提供了各种参数的实证分析结果，发现模型越大，出现更大的不规范现象，即可以发现更贴近任意文本的提示，而精确度下降更小。这些结果对于准确解读连续 - PromptSource: 自然语言提示的集成开发环境和代码存储库
该研究介绍了 PromptSource 系统，该系统用于创建、共享和使用自然语言提示，并解决了语言模型训练和查询中的新问题，包括定义数据关联的提示的模板语言、让用户快速迭代提示开发的接口，以及社区驱动的贡献新提示的指南。
- PAIE：为事件论元提取提供提示的论证交互
本文提出了一个高效的PAIE模型，用于句子级别和文档级别的事件参数抽取，同时通过多角色提示捕捉参数交互，并通过二分图匹配丢失进行联合优化，提供了3个基准测试的广泛实验结果和独特的抽取提示调整策略。
- 使用自然语言，提示是否解决自然语言处理任务？
本文研究了三种Prompt（包括Human-designed，Schema以及Null prompt）在有监督/无监督场景下的有效性，最终发现Schema prompt可以提高训练效果，且随着数据规模的扩大，不同Prompt的表现越来越接近 - 一种基于信息论的无标签基准制造方法
该研究提出了一种不需要标记数据和直接访问模型的新方法，通过选择最大化输入和模型输出之间互信息的模板，可以在不损失准确性的情况下改进预训练语言模型在特定任务上执行的效果。
- 在零样本设置中评估多项选择任务的提示
本文研究大型语言模型如何通过自然语言提示实现令人印象深刻的零-shot性能，归纳和标准化提示任务属性后，发现包含选项和使用未在预训练中使用的提示可以显著提高性能。
- 探索视觉提示以适应大规模模型
通过视觉提示来适应视觉中的大规模模型，这种方法在适应预先训练模型方面非常有效。
- 基于位置的提示方式用于健康结果生成
本研究提出了一种基于位置-注意机制的方法，避免了构造多种不同的提示模板。使用生物医学预训练语言模型，实验结果显示我们的方法能更好地填补掩码，对罕见提示模板的回答（如后缀和混合模式）更为有效。
- IDPG：一种实例相关的提示生成方法
本文提出了一种新的NLP迁移学习范式，称为Prompt Tuning，该范式在模型训练阶段为每个输入实例添加任务特定的提示，并使用Instance-Dependent Prompt Generation (IDPG)生成每个输入实例的提示， - 装饰范例：一种简单的生物医学关系抽取提示设计方法
本文探讨在生物医学领域中的关系抽取问题，研究使用集成学习的方式能否提高在ChemProt数据集上的预测结果，结果展示了基于掩码的抽取方法有潜力在该特定领域关系抽取任务中取得优异的性能。
- Polyglot Prompt: 多语种多任务PromptTraining
本文旨在为多语言学习提供潜在的架构改进，通过开发一种名为Polyglot Prompting的学习框架，利用提示方法为不同的语言和任务学习一个统一的语义空间进行多语言多任务基于提示的学习，以实现跨语言的互助和更全面的实验评估，开创了未来多语 - 文本生成的转移提示学习
本文提出一种基于提示的文本生成方法（PTG），采用预训练语言模型，在面对数据匮乏的情况下通过学习一组源提示并将其转移为目标提示执行目标生成任务，设计了一个自适应注意机制以得出目标提示，实验结果表明 PTG 针对多个任务产生了有竞争力的结果， - 分布式学习
提出了基于提示分布学习的方法，从而通过有效地适应先前训练的视觉-语言模型来处理下游的识别任务，该方法不仅从少量样本中学习低偏差的提示，而且还捕获多种提示的分布以处理不同的视觉表示。