vision transformer | BriefGPT

关键词vision transformer

搜索结果 - 323

随机加密视觉转换器的敌对鲁棒防御的集成
使用视觉变换器 (ViT) 的加密模型的随机集合，提出了一种增强对白盒和黑盒攻击鲁棒性的新方法，在 CIFAR-10 和 ImageNet 数据集的图像分类任务中，该方法不仅对抗白盒攻击，而且对抗黑盒攻击，并在 RobustBench 标准
PDF5 months ago
AAAI注意力导向 CAM：自注意力引导视觉变换器的视觉解释
我们提出了一种应用于 Vision Transformer 的注意力引导可视化方法，该方法能够为其决策提供高级语义解释，并以类标签为唯一的输入，具备出色的定位性能，在弱监督定位任务中胜过了之前领先的解释方法，并具备捕获目标类对象的完整实例的
PDF5 months ago
小规模数据上轻量级视觉变形器的预训练与图像最小缩放
轻量级视觉 Transformer（ViT）可以通过预训练和最小的图像缩放，实现优于 ResNet 等卷积神经网络在小数据集和小图像分辨率上的性能，而不需要显著地增大图像。
PDF5 months ago
基于视觉变换器的 PET/CT 图像淋巴瘤分割的多模态特征融合网络
本研究旨在发展一种准确的淋巴瘤分割方法，采用 18F - 氟脱氧葡萄糖正电子发射断层扫描和计算机断层扫描图像结合视觉转换器和双编码器进行淋巴瘤分割，这在计算辅助淋巴瘤诊断和治疗方面具有巨大潜力。
PDF5 months ago
利用 Swin Transformer 进行局部到全局弱监督语义分割
近年来，计算机视觉领域中的弱监督语义分割使用基于图像级标签的监督引起了广泛关注。本研究探索了使用 Swin Transformer 的 'SWTformer' 来提高初始种子 CAMs 的准确性，通过结合局部和全局视角。
PDF5 months ago
PL-FSCIL: 利用提示的能力进行少样本类递增学习
在这篇论文中，我们提出了一种名为 Prompt Learning for FSCIL（PL-FSCIL）的新方法，它利用了信息提示和预训练视觉转换器（ViT）模型的能力来有效解决 Few-Shot Class-Incremental Lea
PDF5 months ago
DatUS^2：使用预训练的自监督视觉 Transformer 进行数据驱动的无监督语义分割
本文提出了一种数据驱动的方法，将无监督密集语义分割任务作为下游任务来评估自我监督训练方案中引入的语义信息质量，并使用所提出的方法（DatUS^2）生成密集伪标注分割掩膜，评估最新的自我监督训练方案，发现其在图像语义分割任务上取得了显著的性能
PDF6 months ago
EL-VIT: 使用交互可视化研究视觉 Transformer
EL-VIT 是一种交互式可视化分析系统，可以帮助 ViT 用户理解 ViT 的工作机制，通过四个层次的可视化视图展示 ViT 的模型架构、操作过程和数学运算，以及计算图块之间的余弦相似度。
PDF6 months ago
OnDev-LCT: 面向联合学习的设备本地轻量级卷积变换器
提出了 OnDev-LCT：适用于具有有限训练数据和资源的设备上的轻量级卷积变换器，该模型通过利用残差线性瓶颈块中的高效深度可分离卷积来提取局部特征，并通过 LCT 编码器中的多头自注意机制隐式地捕获图像的全局表示。大量基准图像数据集上的实
PDF6 months ago
视觉 Transformer 中的注意力图统计检验
在这项研究中，我们提出了一种用于 Vision Transformer 的注意力的统计测试方法，通过选择性推理的框架，我们量化了注意力的统计显著性，并将其用于脑图像诊断的应用，以可靠的定量证据指示 Vision Transformer 的决
PDF6 months ago
具有掩码内外帧关注的视频超分辨率 Transformer
通过提出一种新颖的特征级遮蔽处理框架 MIA-VSR，本文解决了 Vision Transformer 在受限设备上应用的计算负担和内存占用过大的问题，并通过详细的消融研究验证了方法的有效性和与最新技术的比较结果。
PDF6 months ago
针对隐私保护视觉转换器的高效微调与领域自适应
提出了一种用于视觉变换器（ViT）的隐私保护深度神经网络（DNN）的新方法，该方法允许我们不仅训练模型和使用视觉受保护的图像进行测试，而且还能避免使用加密图像导致的性能下降，而传统方法无法避免图像加密的影响。通过领域适应方法，高效地对使用加
PDF6 months ago
基于视觉变换器的皮肤癌分割与分类，用于皮肤镜非侵入式数字系统的自动分析
这篇研究论文介绍了一种开创性的方法来进行皮肤癌分类，采用了视觉转换器作为深度学习架构，在精细标注的皮肤病变图像数据集上进行预处理和训练，通过自注意机制捕捉复杂的空间依赖关系，取得优于传统深度学习架构的卓越性能，特别是 Google 基于 V
PDF6 months ago
LF-ViT：针对高效图像识别减少 Vision Transformer 中的空间冗余
该研究提出了一种名为 LF-ViT 的定位和聚焦视觉变换器模型，通过在定位阶段处理降低分辨率图像并在发现困难预测时触发内置的全局类注意机制，确定和聚焦类别区域，然后在聚焦阶段使用原始图像中的该区域增强识别能力，该模型有效地缩小了计算要求并提
PDF6 months ago
SPFormer：使用超像素表示增强视觉 Transformer
SPFormer 是一种新颖的视觉变换器，增强了超像素表示，通过对图像内容进行自适应划分，有效捕捉了复杂的细节，并在各种基准测试中表现出优异性能。其独特的可解释性结构提供了对模型内部过程的洞察，显著提高了 SPFormer 的稳健性。
PDF6 months ago
增强对抗样本鲁棒性的随机加密模型集合
本文提出了一种随机集成加密 ViT 模型的方法，该方法对于黑盒攻击和白盒攻击都比传统方法更具鲁棒性。
PDF6 months ago
FullLoRA-AT: 高效提升预训练视觉变换器的鲁棒性
通过使用学习性的 LNLoRA 模块和 FullLoRA-AT 框架，本文提出了一种参数高效的对 Vision Transformer 模型进行对抗微调，以有效提高模型的鲁棒性。在 CIFAR-10，CIFAR-100 和 Imagenet
PDF6 months ago
色情分類的最新技術：一項比較分析
本文通过比较分析已有的以裸露程度为基础对图像进行分类的技术，特别关注其在内容审核中的应用。该研究着重评估了基于 CNN 模型、视觉变换器以及来自 Stable Diffusion 和 LAION 的知名开源安全检查工具。研究发现了当前评估数
PDF6 months ago
深层结构和注意力感知的子空间聚类
提出了一种新颖的深度结构和注意力感知子空间聚类方法（DSASC），同时考虑了数据内容和结构信息，通过使用视觉转换器提取特征，并将这些特征分为结构特征和内容特征，用于学习更高效的子空间结构进行谱聚类。大量实验结果表明，该方法明显优于现有方法。
PDF7 months ago
将人类视觉感知融入视觉转换器用于废物分类
通过使用差异模糊技术在数据集上模拟眼球震颤学习现象，此文研究了垃圾分类的一种新方法，该方法中的第二个模块类似于原始的 Vision Transformer 模型，能够提高模型的精确性和适应性，比标准 Vision Transformer 模
PDF7 months ago