Nov, 2022

通过网络修剪设计轻量级物体跟踪器：使用 CNN 或 Transformer？

PDF
TL;DR本研究提出采用神经网络架构剪枝技术设计高度压缩的轻量级物体跟踪器，并提供最适合设计轻量级跟踪器的架构选择的比较研究。研究结果表明，在一定程度的压缩比下，使用 CNNs，transformers，以及两者的组合的 SOTA 跟踪器的稳定性不同，该研究为从现有 SOTA 方法中设计高效跟踪器提供了深入的见解。
发现论文，激发创造
  • 更多关注视觉语言跟踪

    本文介绍一种基于 ConvNets 和多模态视觉语言 (VL) 的追踪方法，通过模态混合器（ModaMixer）和不对称的 ConvNet 搜索，学习新颖的统一自适应 VL 表示，仅使用 ConvNets 能够在 SOTA 追踪中表现出色，甚至超过几个基于 Transformer 的 SOTA 追踪器。

    Jul, 2022

  • 训练高效的卷积神经网络：优化神经网络的基本组成部分，创造更轻、更快、更强韧的模型

    本研究旨在回顾各种最先进技术，探讨如何通过序列减少训练参数和使用像全局均值池化、深度卷积和挤压、模糊化池等技术进行分阶段训练来构建高效的深度卷积网络，并成功实现了在 MNIST 数据集上仅使用 1500 个参数达到 99.2% 的高准确度，并在 CIFAR-10 数据集上仅使用超过 140K 个参数达到了 86.01% 的高准确度。

    May, 2022

  • LightTrack: 通过一次架构搜索找到用于目标跟踪的轻量级神经网络

    使用神经架构搜索设计轻量级和高效的物体追踪器，实现更好的性能并在资源受限的应用中取得快速运行，从而缩小物体追踪任务中学术模型和工业部署之间的差距。

    Apr, 2021

  • 小目标检测中的 Transformer：现有技术的评估和调查

    调查了 60 多个研究论文，涵盖了 2020 年至 2023 年开发的转换器在小目标检测任务上的性能，还提供了一个 12 个大规模数据集的列表以及使用常见指标（如 mAP，FPS，参数数量等）进行了性能比较。

    Sep, 2023

  • 用于实时无人机跟踪的连体变压器金字塔网络

    这篇论文介绍了 Siamese Transformer Pyramid Network（SiamTPN）方法，该方法结合了 CNN 和 Transformer 的优势，并针对移动平台的计算资源有限的情况，构建了一个稳健的、针对目标的外观模型。实验结果表明，该方法在高速操作时取得了竞争性的结果，且在 LaSOT 数据集上的 AUC 得分为 58.1%。

    Oct, 2021

  • 基于移动视觉变压器的视觉目标跟踪

    使用 MobileViT 作为骨干网络并采用融合模板和搜索区域表示的新方法，我们提出了一种轻量级、准确和快速的跟踪算法。实验结果表明，我们的基于 MobileViT 的追踪器 MVT 在大规模数据集 GOT10k 和 TrackingNet 上的性能超过了最新的轻量级追踪器，并且具有较高的推理速度。此外，我们的方法在模型参数减少 4.7 倍并在 GPU 上运行速度为 DiMP-50 追踪器的 2.8 倍的情况下，胜过了流行的 DiMP-50 追踪器。

    Sep, 2023

  • 网络结构之战：CNN、Transformer 和 MLP 的实证研究

    本文比较了卷积神经网络、Transformer、multi-layer perceptron 等算法的优劣，并在 SPACH 框架下进行了实验，结果显示，使用卷积和 Transformer 模块的混合模型已经能够实现与其他模型相同的准确率。

    Aug, 2021

  • DarkLighter：无人机跟踪中的光明之光

    本文提出了一种名为 DarkLighter 的低光图像增强器，采用轻量级的 ME-Net 网络，用于提高无人机跟踪器在夜间、低光环境下的鲁棒性。实验证明，DarkLighter 的普适性和可靠性很高，并已在典型的 UAV 系统上实现，夜间场景的实际测试表明其实用性和可靠性。

    Jul, 2021

  • ZoomTrack：面向目标的非均匀调整以实现高效的视觉跟踪

    通过对图像进行非均匀调整大小，我们可以在实现较小输入尺寸的同时接近或消除追踪速度快的模型与性能导向模型之间的差距，实验结果表明，这一方法在提高性能的同时能够达到更高的追踪速度。

    Oct, 2023

  • 轻量化思路：自适应剪枝在医学图像分割中的 Transformer 优化

    本文提出应用自适应修剪技术来改进医学图像分割的 transformer 模型。我们的自适应修剪 transformer 的方法名为 APFormer。该模型使用自监督的自我注意机制和高斯先验相对位置嵌入来改进依赖信息建立。我们的实验表明，APFormer 在可用参数更少、GFLOPs 更低的情况下，是目前最好的模型之一，并证明了自适应修剪技术可以作为插入式模块，用于改进其他混合 / 变压器方法的性能。

    Jun, 2022