Feb, 2023

有效基于提示的关系分类学习

PDF
TL;DR本文提出了一种新的基于提示的学习方法 LabelPrompt，用于关系分类任务，通过定义附加令牌来表示关系标签，并构建提示模板方法，以及设计一个实体感知模块和注意查询策略来解决模型中的一些挑战，极大地提高了在缺乏标注数据情况下利用提示学习的适应能力，特别是在少样本场景中的表现超过了其他几种方法。
prompt-based learningrelation classificationpre-trained language model (plm)labelled dataattention query strategy
发现论文，激发创造
  • 短文本分类的 Prompt-Learning

    本文介绍了基于知识拓展的 Prompt-learning 方法来解决短文本分类中的标签扩展问题，并在三个著名数据集上实验，结果比其他方法均取得了显著提高。

    Feb, 2022

  • 关系分类的生成式提示调制

    本文提出了一种新的生成式提示调整方法，将关系分类重新构造为一种填充问题，旨在解决当前提示方法的局限性，并在推理期间设计实体导向的解码和判别关系评分以有效地生成和对齐关系，并在完全监督的设置和低资源设置下展示了我们方法的有效性。

    Oct, 2022

  • STPrompt: 语义引导和任务驱动的提示，用于有效的少样本分类

    提出基于任务语义角度构建的语境提示学习模型 STPrompt，其中两种基于语义依存关系树和任务特定元数据描述的新型提示被构建到提示增强池中，能自动选择合适的语义提示来激发提示学习过程，并在五种不同的少样本文本分类数据集上取得了最先进的性能。

    Oct, 2022

  • 多语种关系分类：高效和有效的提示方法

    本文提出了一种基于提示的多语言关系分类效果高效的方法，可以在完全监督、少样本和零样本场景中有效地使用，旨在成为类似多语言分类任务的强大基准。

    Oct, 2022

  • 自然语言处理中提示方法的系统调查：预训练、提示和预测

    该研究论文调查和组织了一种新兴的自然语言处理范式，这种范式被称为 “基于提示的学习”，并在其中介绍了其基础知识和数学符号，以及其在预训练模型、提示和调整策略等方面的相关研究成果，该框架通过使用模板将输入 x 修改为具有一些未填充信息的文本字符串提示 x'，并将语言模型用于填充未填充信息以获得最终字符串 x，从而实现零样本学习和少样本学习。

    Jul, 2021

  • 新闻推荐的 Prompt 学习

    本文首次尝试运用 Prompt Learning 模型中的 cloze-style 任务，设计了 Prompt4NR 框架，包含了离散、连续和混合模板，并使用 Prompt Ensemble 方法，成功提升了新闻推荐效果，实验采用了 MIND 数据集进行验证。

    Apr, 2023

  • AdaPrompt：基于提示的自然语言处理自适应模型训练

    通过利用任务和提示的特征，AdaPrompt 使预训练语言模型不断预训练，提高了 NLP 方面几个基准测试中的表现，在零样本情况下相对误差降低了高达 26.35％。

    Feb, 2022

  • 检索增强的视觉提示学习用于少样本分类

    本论文提出了一种检索增强的提示学习方法（RePrompt），通过引入检索机制来对下游任务进行知识表示的缓存，该方法在 15 个视觉数据集上进行了广泛实验，包括 11 个在少样本设置下的下游任务和 4 个域泛化基准，在处理领域差异增加时取得了明显的改进。

    Jun, 2023

  • 细粒度实体类型提示学习

    本文探讨了使用 cloze 风格的语言提示刺激预训练语言模型的通用知识，并在完全监督、few-shot 和 zero-shot 情况下，根据实体类型实现了细粒度实体类型的提示学习，其中包括构建面向实体的语言生成器和模板，进一步提出的一种自监督策略可以在提示学习中进行分布级别的优化，从而自动总结实体类型的信息，并表明当训练数据不足时，prompt-learning 方法明显优于 fine-tuning 基线。

    Aug, 2021

  • AutoPrompt: 使用自动生成的提示从语言模型中引导知识

    利用自动化方法生成的 AutoPrompt，我们展示了预训练语言模型在自然语言推理、情感分析和关系提取方面的潜在能力，以及自动生成的提示方法是现有探究方法的一个可行的无参数替代方法。

    Oct, 2020