本文探讨了使用 cloze 风格的语言提示刺激预训练语言模型的通用知识，并在完全监督、few-shot 和 zero-shot 情况下，根据实体类型实现了细粒度实体类型的提示学习，其中包括构建面向实体的语言生成器和模板，进一步提出的一种自监督策略可以在提示学习中进行分布级别的优化，从而自动总结实体类型的信息，并表明当训练数据不足时，prompt-learning 方法明显优于 fine-tuning 基线。

Aug, 2021

为应对电子商务领域商品标题语言特点与新实体的问题，我们提出了基于连续提示调整、融合嵌入的文本蕴含模型来进行电商中实体类型标注，模型改进了 BERT 模型的平均 F1 得分约 2%。

Nov, 2022

本文介绍了基于知识拓展的 Prompt-learning 方法来解决短文本分类中的标签扩展问题，并在三个著名数据集上实验，结果比其他方法均取得了显著提高。

Feb, 2022

本研究设计了一种提示策略，将多个 NLU 任务作为上下文蕴含进行推断，并提出了简单伪标签编辑算法（SimPLE）以提高自我训练的伪标签质量，在二分类和多分类分类任务上进行的实验表明，自我训练蕴含模型在语言理解任务上比大型语言模型更有效和可信。

May, 2023

本研究提出了将实体定位和实体类型识别整合到 prompt learning 中的双插槽多提示模板，可在平行预测插槽上提取所有实体，并设计了一种动态模板填充机制来分配插槽的标签。在各种设置下进行实验，我们的模型在交叉域 few-shot 设置中实现了显着的性能提高。

May, 2023

本文提出了一种新的基于提示的学习方法 LabelPrompt，用于关系分类任务，通过定义附加令牌来表示关系标签，并构建提示模板方法，以及设计一个实体感知模块和注意查询策略来解决模型中的一些挑战，极大地提高了在缺乏标注数据情况下利用提示学习的适应能力，特别是在少样本场景中的表现超过了其他几种方法。

Feb, 2023

本研究提出了一种 Mix Prompt Tuning (MPT) 的半监督学习方法，结合手动提示模板和自动学习的连续提示模板，提供多角度表示，以便使用少量标记的示例，改善在科学领域 NLP 任务中对预先训练的语言模型的性能利用；通过多个低资源科学分类任务的实验证实了该方法的有效性，与微调算法相比，平均提高 5％的 Macro-F1 分数，是一种可轻松应用于其他低资源科学分类任务的通用方法。

May, 2023

本文提出了一种 PELE 方法，通过聚合出现在大规模语料库中的实体的输出表示，能够将相关语料库中的实体知识灵活有效地传输到具有不同架构的预训练语言模型中，只需要 0.2%-5% 的预计算能够在域自适应场景中从域外语料库获取知识，实验表明该方法比以前的知识增强预训练语言模型更为优秀。

Feb, 2022

本文介绍了 PromptNER 算法，将大型语言模型与有限训练样本相结合，实现跨领域、少量样本下的命名实体识别任务，相对于传统方法，取得了十分显著的性能提升。

May, 2023

本文提出了一种名为 PR-ENT 的事件编码新方法，通过引入预训练语言模型对事件描述进行扩展，并将事件描述视为前提，填充的模板作为假设，从中提取可解释的答案，从而可直接起草编码手册，并通过交互式编码手册设计工具进行人机交互，从而更灵活、高效地对事件进行编码。

Oct, 2022