dynamic convolutions | BriefGPT

关键词dynamic convolutions

搜索结果 - 7

将视觉 Transformer 解析为具有动态卷积的卷积神经网络
我们将视觉 Transformer 解释为具有动态卷积的 ConvNets，并在统一框架中比较它们的设计选择，证明了视觉 Transformer 可以以 ConvNets 的设计空间为参考，从而指导网络设计，并展示了如何通过更换激活函数和创
PDF10 months ago
ParameterNet：基于参数的移动网络大规模视觉预训练
本文提出 ParameterNet 方法，使用动态卷积进行低 FLOPs 网络的大规模视觉预训练，实验结果在 ImageNet-22K 数据集上表明 ParameterNet 能够让低 FLOPs 模型从大规模视觉预训练中获益，在 0.6G
PDFa year ago
ECCV3D 实例作为 1D 核函数
该研究引入了一种三维实例表示方法 - 实例核，通过借鉴 2D/3D 实例分割中动态卷积的思想，使用一维向量编码三维实例的语义、位置和形状信息，以便于轻松的进行实例掩模推理，同时避免了标准的 3D 实例分割流水线中建议或启发式聚类算法的大量依
PDF2 years ago
CVPRFCPose: 带有动态实例感知卷积的全卷积多人姿势估计
本文提出了一种使用动态实例感知卷积的全卷积多人姿势估计框架，称为 FCPose，消除了 ROI 和分组后处理，具有更快的推理速度和更好的速度 / 准确性平衡。
PDF3 years ago
动态卷积与 MOT 哲学下考虑分心的快速跟踪
提出一种名为 DMTrack 的双重任务跟踪框架，通过动态卷积和多目标跟踪思想，利用一次性检测和重新识别关联两个核心组成部分，实现排除干扰因素的快速追踪，针对机器视觉领域中的长期跟踪问题，达到了目前同类算法中领先的性能表现。
PDF3 years ago
ICML合成器：重新思考 Transformer 模型中的自注意力
通过大量实验，本文研究了基于点积的自注意力机制对 Transformer 模型性能的实际重要性和贡献，并提出了一种无需 token 交互的学习合成注意力权重的模型 Synthesizer，并在多个任务中取得了竞争性的表现，证明了该模型的有效
PDF4 years ago
ICLR轻量级和动态卷积：减少注意力的付出
本文研究了使用自我关注（self-attention）和动态卷积（dynamic convolutions）两种机制建立语言和图像生成模型的效率以及准确性问题，并证明了动态卷积在大规模机器翻译、语言模型和提取式摘要等任务中的表现优于强的自我
PDF5 years ago