vit | BriefGPT - AI 论文速递

关键词vit

搜索结果 - 33

CVPRFlexiViT：一模型多尺寸贴片处理
本文介绍一种叫做 FlexiViT 的方法，能够动态改变 ViT 模型输入的 patch size 以适应不同的计算预算，从而提高计算效率和精度。通过实验发现，FlexiViT 训练的模型在分类、图像文本检索、分割等多个任务上表现良好，易于
PDF2 years ago
SegCLIP: 可学习中心的补丁聚合方法用于开放式语义分割
本文提出了一个 CLIP-based 的模型，名为 SegCLIP，以无注释的方式实现了开放式词汇语义分割，其主要思想是通过训练文本 - 图像对来聚集有可学习中心的补丁形成语义区域。文中还在被屏蔽掉的补丁上提出了一种重构损失和基于超像素的
PDF2 years ago
CPT-V：一种对视觉 Transformer 进行后训练量化的对比方法
CPT-V 提出了一种利用对比损失优化量化网络的方法，可以大幅提高已经量化过的 Vision Transformer 网络的准确率，实验结果表明，在极端量化情形下，该方法具有鲁棒性。
PDF2 years ago
ECCV集成专家的纯 Transformer 用于场景文本识别
本文提出了使用 tranformer-only 模型作为识别场景文字的基线，并且利用 Pure Transformer with Integrated Experts 优化了解码过程，实现了对多尺度图片的处理和原始字符顺序的识别，并在七个基
PDF2 years ago
CVPR所有都值得一提：一种适用于扩散模型的 ViT 主干网络
本篇研究提出了一种基于 Vision Transformers 构建的简单通用的 U-ViT 架构，通过对时间、条件和噪声图像块等所有输入采用标记方法，并在浅层和深层之间采用长跳过连接，实现与同等大小 CNN-based 的 U-Net 相
PDF2 years ago
ICML一种含密钥的语义分割模型访问控制方法
本文提出了一种使用秘密密钥进行访问控制的新方法，旨在保护具有 Vision Transformer (即分割 Transformer) 的语义分割模型免受未经授权的访问。通过使用 ViT 所具有的 patch embedding 结构，训练
PDF2 years ago
AAAI通过检测不正确位置嵌入进行表示学习
本文提出了一种名为 DILEMMA 的方法，通过使用自监督学习来提高图像表征的性能。该方法使用图像令牌来代表物体的部分，并训练一个 ViT 模型来检测人为移位的图像令牌，从而提高鲁棒性和训练速度，并通过在 ImageNet-1K 上进行线性
PDF2 years ago
CVPRChiTransformer：从线索到可靠的立体视觉
提出了一种灵感来源于视觉系统的新型双目视觉深度估计方法，使用了 Vision Transformer（ViT）和条件校正的双模式交互设计（ChiTransformer）。实验表明，与现有技术相比，该方法在自监督立体匹配方面具有显著优势，可用
PDF2 years ago
元知识蒸馏
本文提出了一种元知识蒸馏（MKD）方法，利用可学习的元温度参数进行元学习，通过适应学习目标的梯度自适应地调整元参数以解决知识蒸馏（KD）的退化问题，从而在不同数据集规模、不同网络和不同数据扩增类型上实现了与当下最优秀方法相当的性能表现。
PDF2 years ago
走向统一基础模型：联合预训练 Transformer 模型处理不成对的图像和文本
本文提出了一种基于 BERT 和 ViT 的通用 Transformer 模型，通过使用两种新颖的预训练技术 —— 知识蒸馏和梯度遮蔽 —— 以及阶段性的任务特定输出头部，能够在图像分类和自然语言理解任务中表现出与分别训练的模型相当的效果。
PDF3 years ago
ICLR动态令牌归一化改进视觉 Transformer
在计算机视觉任务中，我们通过提出一种称为动态令牌归一化（DTN）的新归一化方法，有效解决了传统的层归一化（LN）方法对于图像中的位置上下文的学习不足的问题。 DTN 既可以在单个令牌内进行标准化（内部标准化），又可以在不同令牌之间进行标准化
PDF3 years ago
CVPR基于 Hessian 感知显著性的全局 Vision Transformer 压缩
本研究提出了一种称为 NViT 的基于 Hessian 的全局结构裁剪方法，能够比以往更高效地利用 ViT 模型的参数，使得 NViT-Base 在 ImageNet-1K 数据集上具备了比 DeiT-Base 更高的准确率、更低的 FLO
PDF3 years ago
ICLR一张图像胜过 16*16 个单词：规模下的图像识别变形金刚
本文研究使用 Transformer 代替 CNN 进行图像分类，实现在计算资源少的情况下，取得比目前卷积网络更好的识别结果，从而在计算机视觉上取得突破。
PDF4 years ago