few-shot settings | BriefGPT

关键词few-shot settings

搜索结果 - 30

论大型语言模型在词汇蕴涵识别中的局限性
通过使用不同的提示策略和零 / 少次调优设置，我们研究了八个大型语言模型在识别动词之间的词汇蕴涵关系方面的能力，结果揭示了这些模型在适度表现上可以处理词汇蕴涵识别任务，虽然在不同条件下的效果有所不同，同时，利用少次调优可以提高模型的性能，然
PDF11 days ago
CombiNeRF: 一种结合正则化技术的少样本神经辐射场视角合成方法
在本文中，我们提出了 CombiNeRF，一个将多种正则化技术综合起来的框架，以统一各种正则化技术的优势，并在几个公开数据集上展示了在少样本情况下超越最先进方法的性能。
PDF3 months ago
大规模语言模型低秩适应的无导数优化
在少样本情境中，本研究通过将低秩模块添加到模型的自注意力层中，并采用两种无导数优化方法来交叉优化这些低秩模块，展示出与现有的基于梯度的参数高效调整和无导数优化方法相比，在多个任务和语言模型上取得了显著改进，并在内存使用和收敛速度方面表现出明
PDF4 months ago
参数高效调节与通用视觉语言模型的结合
通过参数高效调优，利用指令调整和多模态对齐的方法，本研究提出了一种新的通用视觉 - 语言模型训练方法 PETAL，其通过独特的模式近似技术，显著减少了训练成本和对重计算资源的依赖，并在语义深度方面进行了改进。实验证明，PETAL 在多个方面
PDF7 months ago
上下文扩散：上下文感知图像生成
我们提出了 Context Diffusion，这是一种基于扩散的框架，使图像生成模型能够从环境中呈现的可视示例中学习。通过为查询图像提供上下文示例和文本提示，最近的工作解决了图像生成中的这种上下文学习问题。然而，当没有提示时，生成的图像的
PDF7 months ago
多任务预训练和图上提示的 MultiGPrompt
在本文中，我们提出了 MultiGPrompt，一种新颖的多任务预训练和提示框架，用于利用多个预设任务获取更全面的预训练知识，并通过预设和全局提示指导少样本情境下的后续任务。我们进行了六个公共数据集上的大量实验来评估和分析 MultiGPr
PDF7 months ago
利用蕴含式建模应对文本分类中的概念变化
该文研究了针对自然语言处理中文本分类问题中的概念变化，提出了一种将普通分类转化为蕴含问题的重新训练文本分类器的方法，通过在真实和合成数据集上的实验证明了该方法的有效性，并在少样本学习设置中分别取得了 7% 和 40% 的 F1 绝对增益，同
PDF8 months ago
利用表示学习的任务感知调制：异构系统中少样本学习的方法
本研究通过使用任务感知的表示学习（TAM-RL）框架，在不了解单个任务特征的异构系统中提升个性化预测。TAM-RL 提取代表实体的实际内在特征的嵌入，并将这些特征用于为每个实体 / 任务个性化预测。通过使用真实的水文和通量塔基准数据集，我们
PDF9 months ago
探索基于提示学习范式的小型语言模型用于高效的领域特定文本分类
在本研究中，我们调查了小语言模型（具有不到 10 亿参数）与 prompt-learning 范例相结合，在零样本和少样本场景下针对零售业中客户 - 代理商互动的领域特定文本分类的潜力。我们的评估结果显示，在少样本设置下进行基于提示的模型微
PDF9 months ago
多标签文本分类的上下文学习
利用预训练的密集检索模型，我们在有限样本设置中的常见意图分类数据集上，以及特定情况下的细粒度情感分类中，优于微调性能。通过多个实验，我们分析了模型对于上下文示例和不同模型规模的利用情况，并展示了在不同领域中需要不同程度上下文示例的相似性、类
PDF9 months ago
自我训练中实例选择策略在情感分析中的实证研究
情感分析是自然语言处理中的一个关键任务，通过从文本中识别和提取主观情感。自我训练是一种最近出现的经济高效的技术，通过利用少量标记数据和大量无标记数据来开发情感分析模型。然而，自我训练过程的性能在很大程度上取决于实例选择策略的选择，这一策略尚
PDF10 months ago
ICCVSINC：自我监督上下文学习用于视觉 - 语言任务
本文提出了一种自监督的上下文学习 (SINC) 框架，可以在视觉 - 语言领域的各种任务中进行前馈预测，无需通过渐变更新进行特定任务微调，并表明在少样本数据的情况下 SINC 方法优于基于梯度的方法。
PDFa year ago
ACLRAMP: 增强检索和属性标记的属性控制翻译提示
提出了 Retrieval and Attribute-Marking enhanced Prompting (RAMP) 方法，使用大型多语言语言模型在 few-shot 和 zero-shot 模型下进行 attribute-cont
PDFa year ago
面向文档图像的 Few-shot 实体识别：鲁棒的图神经网络方法
该论文提出了一种新模型 LAGER，该模型基于文档中单词之间的拓扑相邻关系建立边缘，并通过引入图神经网络层将其结合到预训练语言模型中，从而有效地提高了实体识别的性能。
PDFa year ago
ACL残差提示调节：使用残差重参数化改进提示调节
本研究提出了一种简单而高效的 Residual Prompt Tuning 方法，通过重新参数化软提示嵌入来显著提高 prompt 调整的性能和稳定性，在 SuperGLUE 基准测试中比 prompt 调整表现显著优异，减少提示长度 10
PDFa year ago
CVPR增加与农作物相关的特征多样性用于少样本目标检测
该论文提出了一种基于变分自编码器 (VAE) 的数据生成模型，以增加图像中物体提议的多样性，缓解了训练鲁棒分类器方面的问题，并在 PASCAL VOC 和 MS COCO 数据集上显著提高了少量训练样本情况下的物体检测性能。
PDFa year ago
使用点对点 V - 信息对上下文选定进行的意图检测的有选择性数据增强
这项研究提出了一种基于语言模型和点间 V-information 的方法，通过 in-context 合成新的对话数据并过滤无用数据，能够在少量训练数据下，显著提升意图检测性能。
PDFa year ago
EMNLPClip-Tuning：一种基于多重奖励的无导数提示学习方法
本文提出了一种名为 Clip-Tuning 的方法，利用预训练的语言模型来获得奖励的混合，并在少样本情况下超越了以前的基于梯度的对照方法。该方法采用了不同的冻结的预训练语言模型的精简网络，其推断预测反映了对提示培训样本的部分视图的集合。
PDF2 years ago
COLING重新审视预训练语言模型提取短语结构句法分析的实际有效性
本文提出了两种预先训练的语言模型的高级集成方法，证明这种新的解析范例可以通过引入一组异构的 PLM 使用我们的技术与常规的无监督解析器竞争。此外，本文还探讨了 CPE-PLM 生成的树在实际中有用的一些情况，特别是在少量数据学习环境中，C
PDF2 years ago
让我来检查这些示例：通过显式模仿增强示范学习
本文提出了模仿式演示学习（Imitation-Demo）方法，通过对人类审查行为的明确模仿来加强演示学习，进而增强提示和演示之间的关联性，从而在 14 个分类语料库中取得了显著的性能提升。
PDF2 years ago