Jul, 2022

具备压缩感知变换的车牌取证识别技术

PDF
TL;DR本文通过引入 Transformer 结构，并利用压缩水平的信息， 实现了对强烈压缩的无法辨认的车牌的识别。实验表明在真实和合成数据集上，该方法均显著超越现有的车牌识别方法和标准的图像识别模型，且参数量更少。当车牌图像最严重的情况下，我们的方法可以将识别率提高 8.9％。
forensic license plate recognitiontransformer architectureinput compressionreal-world datasetimage recognition
发现论文，激发创造
  • 基于 Transformer 的端到端图像压缩和分析

    本文提出了一种基于 Transformer 的端到端图像压缩和分析模型，实现云端图像分类应用，并通过两步训练策略解决了率失真精度优化问题。实验结果表明，该模型在图像压缩和分类任务中均具有有效性。

    Dec, 2021

  • Transformer 压缩综述

    在该研究中，作者通过综述了解压缩方法对 Transformer 模型在自然语言处理和计算机视觉领域的应用，并对修剪、量化等压缩方法进行了分类和讨论。

    Feb, 2024

  • 使用增强视觉 Transformer 进行图像重建

    本文提出了一个基于 Vision Transformer (ViT) 的图像重构框架，利用 4 种优化技术和生成对抗网络（GANs）启发的对抗性损失函数，用于图像去噪和修复，实验表明该框架在结构相似性（SSIM）方面比 U-Net 模型高出超过 3.5％，对于这两个任务，提议的增强算法进一步展示了超过基准的 extasciitilde5％SSIM 的改进。

    Jul, 2023

  • 用于像素级识别结构组件和损伤的高分辨率视觉变压器

    在本研究中，我们基于视觉变换器和拉普拉斯金字塔缩放网络开发了一个语义分割网络，用于高效解析高分辨率的视觉检测图像。通过在桥梁检测报告图像数据集上进行全面的实验评估，我们的提出的框架在像素级材料检测方面具有广泛的应用价值。

    Aug, 2023

  • 动态隐变量感知器实现高效语音翻译

    该研究提出了一种使用感知器编码器和动态潜在访问训练的语音到文本转换技术，这种技术在 MuST-C 数据集上的三种语言中可以与 Transformer 基线模型的性能相匹配，并且可以在推理过程中灵活部署，适应多种计算预算，而不会导致显著降低翻译质量。

    Oct, 2022

  • TransReID：基于 Transformer 的目标重识别

    本文介绍了基于 transformer 的物体 ReID 方法 TransReID，通过重新排列 patch embeddings，设计新颖的 jigsaw patch module 和 side information embeddings 模块来提高对细节、摄像机视角等因素的鲁棒性，并在多个 ReID 数据集上实现了最优结果。

    Feb, 2021

  • Speechformer：减少直接语音翻译中的信息损失

    提出了 Speechformer 的架构，该架构通过减少注意层中的内存使用，避免了初始的失真压缩，并根据更具信息的语言标准仅在较高级别上聚合信息，该架构在三种语言对 (en->de/es/nl) 上的实验表明了其有效性。

    Sep, 2021

  • 优化 Transformer 推理技术综述

    本文综述了技术优化变压器网络推断的技术，包括知识蒸馏，修剪，量化，神经架构搜索和轻量级网络设计，以及硬件级优化技术和设计新型硬件加速器，可帮助读者权衡参数 / FLOP 数量和准确性之间的关系。

    Jul, 2023

  • 变压器辅助的语义通信

    通过使用 transformer 结构进行特征提取，以实现图像压缩和紧凑表示，从而优化语义通信的质量和带宽利用效率。

    May, 2024

  • 自然语言处理的部分张量化变压器

    本研究利用张量列分解技术对 Transformer 视觉语言神经网络（BERT 和 ViT）进行压缩，从嵌入层压缩和神经网络的部分张量化两方面进行，提高了现有模型的准确性，无需后训练调整。

    Oct, 2023