ICCVFeb, 2024

将图像转换为道路网络：一种非自回归序列到序列的方法

PDF
TL;DR为了准确地定位道路标志物及其互连关系，本研究采用两种数据域的统一表示方法，并构建了一种基于非自回归序列到序列 Transformer 模型的道路网络序列，有效地解决了欧几里得和非欧几里得结构的融合问题，并在效率和准确性上取得了优越结果。
发现论文，激发创造
  • 基于 Transformer 序列到序列模型的城市道路网络中使用 NLP 实现的轨迹映射匹配

    使用基于变压器的编码器 - 解码器模型，将噪声 GPS 数据转化为城市道路网络上的导航路线，大规模地理定位遥测数据对于增强智能城市的移动基础设施和操作系统具有巨大潜力。

    Apr, 2024

  • 通过迭代改善的方法进行非自回归神经序列建模

    提出一种基于迭代改善的有条件非自回归神经序列模型，结合了潜变量模型和自编码器的原则，可以广泛应用于任何序列生成任务。该模型经过在机器翻译（En-De 和 En-Ro）以及图像字幕生成方面的广泛评估，观察到它显著加快解码速度，并保持与自回归形式相当的生成质量。

    Feb, 2018

  • 使用连接时序分类的端到端非自回归神经机器翻译

    提出基于 CTC 的非自回归结构，可用于神经机器翻译，相比其他的非自回归结构，本文所提出的模型可以进行端到端的训练，并在 WMT 英罗马尼亚和英德数据集上实现了可比的翻译质量及较大的速度提升。

    Nov, 2018

  • 将图像转化为地图

    通过使用新形式的变压器网络，直接将图像或视频转换为俯视图或鸟瞰视图，从而获得即时映射，通过顺序到顺序的翻译来生成地图，利用图像的背景信息来解析每个像素的作用，该算法在三个大规模数据集上的表现达到了最佳水平。

    Oct, 2021

  • 重访非自回归 Transformer 用于高效图像合成

    通过重新评估非自回归变压器的训练和推理策略设计，本文提出了一种名为 AutoNAT 的方法，该方法在自动框架中直接解决最优策略，从而大幅提升了非自回归变压器的性能，并且能够与最新的扩散模型在显著降低推理成本的同时进行可比较的表现。

    Jun, 2024

  • Emage: 非自回归式文本到图像生成

    非自回归模型在生成图像时具有高效生成大量图像标记、低推理延迟等特点，与自回归模型相比，其参数规模为 346M，使用一台 V100 GPU 在 1 秒内生成了一张 256×256 像素的高质量图像。

    Dec, 2023

  • 掩码非自回归图像字幕生成

    本文提出了一种基于遮码机制的非自回归解码模型，用于生成图像标题。实验结果表明，该模型可以更有效地保留语义内容并生成更多样化的标题。

    Jun, 2019

  • NAST：非自回归时空 Transformer 用于时间序列预测

    本研究针对 Transformer 在时间序列预测中所面临的累积误差和时延问题以及在空间 - 时间依赖性问题上的挑战，提出了一种新型的非自回归 Transformer 架构并引入了新颖的空间 - 时间关注机制，以学习到一个时间影响图来填补空间 - 时间依赖之间的差距，实验结果表明在多样化的自我中心未来定位数据集上，该模型具有表现优异的实时性和准确性。

    Feb, 2021

  • 图像变换器

    在这项工作中，我们将基于自我关注机制的模型架构 ——Transformer 模型，泛化到图像生成的序列建模问题上，并通过限制自我关注机制只关注局部邻域，显著提高了模型能够实际处理的图像大小，同时在图像生成方面显著优于当前最优秀的状态，提高了 ImageNet 上最佳公布的负对数似然从 3.83 到 3.77，同时还针对大放大倍数进行了图像超分辨率实验。在人类评估研究中，我们发现，我们超分辨率模型生成的图像比先前的最优模型更能欺骗人类观察者。

    Feb, 2018

  • RoadTracer: 从航空影像中自动提取道路网络

    通过采用基于卷积神经网络（CNN）的决策函数来引导迭代搜索过程，RoadTracer 可以从高分辨率航空图像中自动构建道路网络图，并在误差率为 5％时，相较于分割方法，可以准确地捕捉到多达 45％更多的交叉点。

    Feb, 2018