vision transformer (vit) | BriefGPT

关键词vision transformer (vit)

搜索结果 - 10

MGRQ: 视觉转换器训练后的混合粒度重建量化
本文通过分析深入探讨原因，并提出了 MGRQ（混合粒度重构量化）作为解决方案以解决此问题。MGRQ 引入了一种混合粒度重构方法来提高 PTQ 的性能，并通过引入 Extra-Block 全局监督和 Intra-Block 本地监督，构建了优
PDF21 days ago
增强视觉语言模型的未屏蔽令牌对齐
Contrastive pre-training techniques like CLIP are computationally demanding, while Unmasked Token Alignment (UTA) levera
PDFa month ago
BIMM: 基于脑神经灵感的视频表示学习
我们提出了脑启发的 Masked 建模 (BIMM) 框架，通过学习图像和视频表示，使用视觉变换器 (ViT) 作为骨干，并在训练过程中采用部分参数共享策略，在模拟人脑的视觉通路中取得了优越的性能。
PDFa month ago
少样本图像分类的类相关补丁嵌入选择
我们提出了一种有效的图像分类方法，通过从前景和背景元素中选择相关特征和使用预训练的 Vision Transformer (ViT) 对图像进行编码，然后通过筛选类相关的补丁嵌入来改善预训练模型的性能，并在流行的少样本分类基准测试中超过了现
PDF2 months ago
半 Mamba-UNet：基于像素层面对比交叉监督的半监督医学图像分割中基于 Mamba 的 UNet
利用 Semi-Mamba-UNet 结合了可视 mamba-based UNet 架构和常规 UNet，采用半监督学习（SSL）框架来解决医学影像分割中的长程依赖和专家标注问题，并通过自监督像素级对比学习策略提升特征学习性能。
PDF5 months ago
AAAIAuto-Prox: 通过自动代理发现的无需训练的视觉 Transformer 架构搜索
通过自动代理发现框架 Auto-Prox，我们介绍了一种训练免费的方法来进行 Vision Transformer（ViT）的体系结构搜索。广泛的实验表明，我们的方法在不同数据集上都具有很好的泛化能力，并在排名相关性和最终准确性方面取得了最
PDF7 months ago
本地 - 全局自监督视觉表示学习
本研究探索了将图像级别与局部级别的判别相结合的自我监督表示学习方法，通过同时观察局部和全局视觉特征来增强学习表示的质量。我们提出了一个简单而有效的补丁匹配算法，借助视觉变换器（ViT）作为骨干网络，从而生成图像级别和补丁级别的表示。结果显示
PDF8 months ago
加密图像下高效微调视觉转换模型的领域适应
我们提出了一种使用视觉变换器 (ViT) 对转换图像进行模型微调的新方法，该转换图像域自适应方法不会导致模型准确度下降，基于 ViT 的嵌入结构进行实施，实验证实了该方法在使用 CIFAR-10 和 CIFAR-100 数据集的加密图像时仍
PDF10 months ago
SEDA：用于鲁棒性胸部 X 光分类的自我融合 ViT，包括防御蒸馏和对抗训练
本研究的主旨是提升自包含的视觉 Transformer（ViT）在结核病胸部 X 光分类任务中的鲁棒性，通过引入有防御性的蒸馏和对抗训练的 SEDA 模型，SEDA 利用了高效的 CNN 块来从中间 ViT 块提取的特征表示中学习具有不同抽
PDFa year ago
CVPR自监督 Vision Transformer 的蒸馏用于弱监督少样本分类与分割
我们提出了一种利用自监督预训练的视觉 Transformer（ViT）来解决弱监督少样本图像分类和分割的方法，通过自注意力机制，利用自监督 ViT 的标记表示，通过独立的任务头预测分类和分割结果。实验结果表明，我们的模型在不需要像素级标签的
PDFa year ago