task-agnostic | BriefGPT - AI 论文速递

关键词task-agnostic

搜索结果 - 9

历史学习：面向任务的模型对比学习用于图像恢复
通过自适应生成负样本的创新方法，我们提出了一种称为 “根据历史学习” 的适应性负样本生成方法，名为 Self-Prior guided Negative loss for image restoration (SPNIR)。我们的方法是任务
PDF10 months ago
大型语言模型蒸馏不需要教师
本文介绍了一种针对大型语言模型的任务无关的零样本评估蒸馏方法，该方法使用截断版本的大模型作为初始化，并使用语言建模目标继续预训练该模型，已从根本上解决了对任务特定学习数据的依赖。本方法可以在无法将教师和学生都放入 GPU 内存的情况下将模型
PDFa year ago
TVTSv2：学习开箱即用的大规模时空视觉表示
本论文分析了导致视频模型性能下降的因素 —— 语言监督失真，提出了一种去除降级的预训练策略，并采用排序任务同时使用掩蔽技术进行可扩展的训练，得到了一系列新的模型。
PDFa year ago
编码器 - 解码器语言模型的任务无关蒸馏
通过探讨 MiniEnD 方法来针对语言模型（LMs）的无特定任务的精炼，以及针对编码 - 解码 LMs 的精炼，旨在让它们保持性能同时实现计算有效，从而在语言理解和摘要制作方面得到好的效果，而且 MiniEnD 与其他备选方案相比具有良好
PDFa year ago
自我激发的神经元群体用于连续强化学习
使用自激活神经模块及模块化结构，本文提出了一种基于视觉强化学习环境的无先验任务边界设定的持续学习方法，以避免忘却与利用旧有的技能，并在生成环境中进行了相关实验。
PDF2 years ago
任务 - 不可知数据估值基础
本研究通过查询卖家的信息，估算数据的多样性和相关性，使买家能够在没有真实数据的情况下对数据进行评估和购买。
PDF2 years ago
BadPre：面向预训练 NLP 基础模型的任务无关后门攻击
本研究提出了首个不依赖下游任务信息的 NLP 预训练模型后门攻击技术 Name，并设计了一种有效的绕过最新防御方案的策略，实验结果表明，该方法可以在有效和隐蔽的权衡下，攻击各种 NLP 任务。
PDF3 years ago
CVPR通向通用视觉系统
本文提出了一种通用视觉语言体系结构 GPV-1，它可以学习和执行涉及接收图像和生成文本和 / 或边界框的任务，包括分类、定位、视觉问答、字幕等多个任务，并通过实验证明 GPV-1 在多个任务上是有效的，可以重新利用跨任务的概念知识，并可以在
PDF3 years ago
CVPRiTAML: 一种增量式任务无关元学习方法
本文提出了一种基于元学习的新方法，通过学习一组不针对旧任务也不针对新任务的广义参数来避免深度神经网络的快速衰落问题，并在五个数据集上进行广泛实验，实现了明显的改进
PDF4 years ago