prototypical networks | BriefGPT

关键词prototypical networks

搜索结果 - 28

ProtoS-ViT：稀疏自解释分类的视觉基础模型
冷冻预训练的 ViT 后骨干能有效地转化为示范性模型，提高模型的准确性、简洁性和可解释性，通过一系列定量和定性指标评估模型可解释性。
PDF20 days ago
深度基础潜空间内的无监督领域自适应
这篇研究论文分析了基于视觉 Transformer 的基础模型（如 ViT 或 Dino-V2）在无需精调特征的情况下解决问题的能力，通过对原型网络设置的实验，定量分析以及对决策过程的定性解释，我们展示了所提出的方法在无监督领域适应中的应用
PDF4 months ago
DE$^3$-BERT: 基于原型网络的 BERT 增强距离提前退出
基于全局信息与局部信息的混合策略，我们提出了一个新颖的基于距离增强的 BERT 模型早停策略 (DE^3-BERT)，通过利用全局信息来提高预测准确性，从而在模型性能和推理效率之间取得更好的平衡。
PDF5 months ago
利用类别分布的异质性在免范例持续学习中进行优化
无先例的课程增量学习中，使用冻结的特征提取器基于欧氏距离生成类原型并进行分类，然而，欧氏距离在非静态数据学习时表现亚优，特征分布异质。为了解决这个挑战，我们重新考虑适用于课程增量学习的各向异性马氏距离，并经验证明建模特征协方差关系要优于从正
PDF9 months ago
基于知识增强的多标签少样本产品属性值提取
通过使用原型网络基于生成的标签描述和类别信息，结合混合注意力以减少噪音并捕获更多信息以实现更具有区别性的原型，我们提出了一种基于知识增强型注意力框架（KEAF）的多标签少样本学习（FSL）的属性值提取模型，并通过整合支持集和查询集的语义信息
PDFa year ago
通过 k 最近邻搜索的提示方法，用于少样本命名实体识别的 PromptNER
本文提出了一种基于提示方法的 Few-shot Named Entity Recognition（NER）模型，使用实体类别信息构建标签原型，使模型只需使用支持集进行微调即可实现很好的迁移学习表现，实验证明其在 Few-NERD 和 Cro
PDFa year ago
AAAIContrastNet：用于小样本文本分类的对比学习框架
提出了一个名为 ContrastNet 的对比学习框架，来解决少样本文本分类问题中类间相似性引起的混淆和过拟合的问题。经实验证明该方法在 8 个少样本文本分类数据集上优于当前技术水平。
PDFa year ago
原型网络的联邦半监督学习
ProtoFSSL 是一种新颖的基于原型网络的半监督 FL 方法，它通过轻量级原型实现客户端之间的知识共享，减少了通信和计算成本，并在多个数据集上实现了更高的准确性。
PDF2 years ago
医学文本的小样本学习：系统综述
本篇综述了最新关于使用少样本学习方法来解决医疗自然语言处理问题的研究状态。结果显示，多数研究侧重于已存在的数据集，其中概念提取和命名实体识别是最常见的任务，研究方法主要包括注意力机制、原型网络和元学习。然而，当前的研究还面临着医学领域数据集
PDF2 years ago
基于提示的零样本关系分类与语义知识增强
本文提出了一种基于提示的模型，并使用语义知识扩充的方式识别零 - shot 情况下的未见过的关系。该模型使用原始的实例生成模型和基于外部知识图形的提示来生成增强实例，通过原型网络计算实例之间的距离来预测。实验结果表明，该模型在多个数据集上均
PDF3 years ago
联邦侦察：高效、分布式、分类增量学习
在分布式客户端独立地学习新概念并高效地交流知识的计算机学习问题中，我们提出了一种评估框架和方法基线，比较了学习算法并发现原型网络是一种强大的方法，其对灾难性遗忘具有鲁棒性，并高效地合并新信息。我们证明，原型向量的在线平均是有效的客户端模型合
PDF3 years ago
ICCV适用于少样本医学图像分割的循环掩模细化
本文提出了一个新的基于原型网络的少样本医学图像分割框架，它以两个关键模块：上下文关系编码器和反复使用原型网络的逐步掩模细化模块作为创新，通过对两个腹部 CT 数据集和一个腹部 MRI 数据集的实验表明，该方法相对于现有最先进的方法平均提高了
PDF3 years ago
ICML注意力元学习器用于小样本多重分类
通过对 meta-learning 的研究，发现 polythetic classifications 相较于 monothetic classifications 拥有更高的实用价值，Matching Networks 比 Prototy
PDF3 years ago
ACLProtAugment：用于意图检测元学习的无监督多样短文本改写
本文提出一种名为 ProtAugment 的元学习算法，通过多样的重述技巧限制 Prototypical Networks 在每个元学习 episode 中受到的少样本分类目标带来的偏差，无需额外标注数据或在特定应用领域上微调条件语言模型即
PDF3 years ago
ACL预训练语言模型中的记忆与泛化
本研究通过研究先进的预训练语言模型在嘈杂和低资源环境下的一般化和记忆能力，发现这些模型的训练对标签噪声几乎没有影响，但并不适用于低资源任务，而基于原型网络的扩展则能提高识别低资源命名实体时的性能。
PDF3 years ago
关于集合、原型网络和少样本学习
探究非参数法在少样本学习中使用时，是否需要进行分集式学习。通过 Matching Networks 和 Prototypical Networks 两种最流行的非参数方法进行广泛实验，发现它们的 ' 非分集式 ' 同行们简单、超参数少，并提
PDF4 years ago
ECCV类增量领域自适应
该研究提出了一种实用的域自适应范式 —— 增量类别域自适应（Class-Incremental Domain Adaptation，CIDA），并且根据理论和实证观察，提出了一种基于样板网络的有效方法，使得在域偏移的情况下可以对目标样本进行
PDF4 years ago
随机原型嵌入
通过一种概率方法所提出的基于监督的深度嵌入方法，可以将来自一个领域的输入映射到一个表征空间中，其中相同类别的实例彼此靠近，而不同类别的实例则相距很远。与现有的局限于确定性的方法不同，该方法假定了围绕类别原型的存在，采用正态分布来处理实例。同
PDF5 years ago
Few-Shot Learning 中的 Shot 数量理论分析
本文研究了现有少样本分类方法，提出了一种鲁棒性较好的方法来应对培训数据量和测试数据量不匹配等情况。该方法通过理论分析，将嵌套式学习（meta-learning）与原型网络（Prototypical Networks）相结合，以研究最佳 “S
PDF5 years ago
ICLR分布式签名的小样本文本分类
本文探讨了元学习在少样本文本分类方面的应用，通过利用分布式特征与注意力机制，将关键词加权表示，相比于基于字面知识的原型网络模型，在 6 个基准数据集上的准确率平均提升了 20.0%。
PDF5 years ago