few-shot scenarios | BriefGPT

关键词few-shot scenarios

搜索结果 - 21

嵌入式提示调整：提高预训练医学图像模型的校准能力
基于大规模数据进行预训练的基础模型在各种自然成像下游任务中广泛取得成功。参数高效微调方法旨在通过仅更新少量参数以减少计算开销，使基础模型适应新领域。然而，这些参数高效微调方法的有效性，尤其是在跨域少样本场景（如医学图像分析）中，并未完全探讨
PDF3 days ago
KDDGRAM: 基于数据安全背景下的数据模式的生成式检索增强匹配
在数据摄取过程中，模式匹配是当代数据库系统中至关重要的阶段，它的目标是识别与不同数据表相关联的两组属性之间的相似性，本研究重新审视了这个基础问题，并基于大型语言模型进行了探讨，强调了在零射和少射场景下精确匹配属性的能力。
PDFa month ago
ActiveLLM：基于大型语言模型的用于文本少样本场景的主动学习
ActiveLLM 是一种新颖的主动学习方法，通过利用诸如 GPT-4、Llama 3 和 Mistral Large 之类的大型语言模型来选择实例，显著提高了 BERT 分类器在少样本场景中的分类性能，并且可以扩展到非少样本场景，为各种学
PDF2 months ago
CVPRLAFS：基于地标的人脸自监督学习用于人脸识别
本文主要研究面部表示学习及其在面部识别中的应用，通过自我监督预训练学习未标记面部图像以提高面部识别性能，并采用基于地标的面部自我监督学习（LAFS）方法，通过提取面部地标实现关键表示学习，同时结合地标特定的数据增强以增加地标信息多样性，进而
PDF4 months ago
视觉 - 语言模型的多模态特征提示
我们提出了一种多模态属性提示方法（MAP），通过同时探索文本属性提示、视觉属性提示和属性级对齐来解决大规模预训练视觉 - 语言模型（VLMs）在少样本情况下的一些局限性，实验结果表明我们的方法在 11 个数据集上表现优于现有方法。
PDF4 months ago
Gzip 用于二进制图像分类的强归纳偏差
在计算机视觉中，深度学习网络已成为行业和研究领域的事实标准；然而，在自然语言处理领域的最新发展表明，在一些领域中，具有强归纳偏差的无参数模型可以作为计算成本更低、更简单的替代选择。我们提出了一种用于二进制图像分类的模型：最近邻分类器与通用压
PDF6 months ago
用于少样本神经辐射场的信息光线选择
KeyNeRF 是一种在少样本情况下训练 NeRF 的简单而有效的方法，通过关注关键信息光线，首先通过一个视图选择算法在相机级别选择这样的光线，该算法在促进基线多样性的同时保证场景全面覆盖，然后通过基于局部图像熵的概率分布进行像素级的采样。
PDF6 months ago
巨型语言模型增强少样本推荐系统的表示能力
利用大型语言模型（LLMs）处理明确反馈可以提高推荐系统在少样本场景中的性能。LLMs 具备生成和逻辑推理能力，能够有效处理明确反馈，成为增强推荐系统性能的组成部分。
PDF6 months ago
将 LLM 先验融入表格学习器
我们介绍了一种方法，将大型语言模型（LLMs）与传统表格数据分类技术相结合，解决 LLMs 在数据序列化敏感性和偏差方面的挑战。我们引入了两种策略，利用 LLMs 对分类变量进行排序和生成连续变量与目标之间相关性的先验，提高了在少样本情况下
PDF7 months ago
视觉语言模型的领域泛化鲁棒微调
在具有有限训练数据并在分布转变下无法有效推广的情况下，传统的迁移学习方法效果有限。然而，最近的基础模型在分布转变下表现出了令人印象深刻的零样本推理能力和鲁棒性。为了解决这些问题，在此提出了一种适用于流行的视觉 - 语言基础模型 CLIP 的
PDF8 months ago
基于结构的提示增强图神经网络
图神经网络 (GNN) 在学习图数据的语义方面具有很强的能力。最近，一种名为 “预训练、提示” 的新范式在利用较少监督数据将 GNNs 适应各种任务方面取得了有希望的结果。成功的这种范式可以归因于预训练和面向任务的提示调整之间更一致的目标，
PDF8 months ago
ACL所有标签汇聚：具有效标签语义编码范式的低样本意图检测
在意图检测任务中，利用意图标签中的有意义的语义信息对于少样本场景尤其有益。我们提出了一个端到端的 One-to-All 系统，可以将输入词汇与所有标签候选进行比较，从而充分利用标签的语义信息。实验结果表明，在训练资源极为有限的情况下，One
PDF10 months ago
预训练模型对即时缺陷预测的影响研究
以不同的预训练模型为基础，探索了 Just-In-Time（JIT）缺陷预测任务中的性能差异、训练效率与模型分布的关系，以及输入敏感性，发现不同预训练模型在平衡数据集的少样本场景下具有更好的缺陷检测能力，特别是 CodeGPTJIT 和 G
PDF10 months ago
基于提示的微调总是比基本微调更好吗？来自于跨语言理解的洞见
本文提出 ProFiT 管道，研究 Prompt-Based Finetuning 的跨语言能力，发现在语言理解中 Prompt-Based Finetuning 的效果和适用性优于 Vanilla Finetuning，且在少样本场景下表
PDFa year ago
基于随机配置网络的滚动轴承云集成学习故障诊断
通过提出基于 SCN 的云集成学习的方法，包括云特征提取、云抽样和集成模型，以提高轴承故障诊断的准确性，结果表明该方法在少样本情况下表现良好。
PDFa year ago
反复斟酌方为上策：从文本编辑中学习重新调整与人类价值的对齐
Second Thought 是一种学习模式，通过模拟未对齐和对齐的文本之间的编辑链，使用语言模型微调和加强学习进行额外的细化，不仅在三个价值对齐基准数据集中实现了优越的性能，还在少样本情境下显示出强大的人类价值转移学习能力。生成的编辑步骤
PDF2 years ago
EMNLP多语种关系分类：高效和有效的提示方法
本文提出了一种基于提示的多语言关系分类效果高效的方法，可以在完全监督、少样本和零样本场景中有效地使用，旨在成为类似多语言分类任务的强大基准。
PDF2 years ago
EMNLP晚阶段调优：晚期提示可能比诸多提示更好
该研究提出了一种名为 Late Prompt Tuning (LPT) 的 PETuning 方法，它将追加的提示插入到 PTM 的中间层而非输入层或所有层，并通过一个神经提示生成器获得实例依赖的提示，具有更快的训练速度和更低的内存成本，可
PDF2 years ago
COLING经典序列匹配是一种竞争力较强的少样本单类别学习器
本文中提出了一种用于 few-shot one-class 问题的主要方法：序列匹配。实验证明，传统序列匹配方法在元学习的帮助下，明显优于使用 transformer-based models 的方法。
PDF2 years ago
PromptAttack：一种基于提示的语言模型梯度搜索攻击方法
本文提出一个恶意提示模板构造方法（PromptAttack）来探究预训练语言模型（PLMs）的安全性能。对三个数据集和三个 PLMs 进行广泛实验，证明了我们提出的 PromptAttack 方法的有效性。我们还进行了实验，验证了我们的方法
PDF2 years ago