Jan, 2022

DNNFuser：基于生成式预训练转换器的 DNN 加速器层融合通用映射器

PDF
TL;DR本文提出了一种基于 Transformer 的 DNNFuser 映射器，专注于处理网络中的层融合映射空间，在一次推理传递内，DNNFuser 能够与高度优化的搜索映射器相匹配的性能推断出解决方案，速度提高了 66x 至 127x
发现论文，激发创造
  • Transformer 推理的全栈优化：一项调查

    本文调查了提高 Transformer 模型推理效率的不同方法，包括分析现有模型架构的瓶颈和硬件设计的影响，调度操作的挑战，以及通过神经网络架构搜索来优化 Transformer 模型等研究方向。最后，作者将这些方法应用于一个开源的全栈 DNN 加速器生成器中，并表明这些方法都可以对提高模型推理速度产生影响，其中最优的全栈设计方法可以将速度提高多达 88.7 倍，同时性能基本不受损害

    Feb, 2023

  • FusionFormer：在 Transformer 中融合操作以实现高效流式语音识别

    通过将层标准化技术替换为批标准化技术并且对 Conformer 架构的激活函数进行简化和替换（用 ReLU），我们提出了一个名为 FusionFormer 的模型，它的推理速度比标准的 Conformer 模型快约 10%，而且效果相当。

    Oct, 2022

  • 层次表示融合的组合性泛化

    通过引入 fuse-attention 模块，提出了一种扩展的序列到序列模型（ extsc {FuSion}），以适当地将上一层的信息融合回编码和解码过程中，有效地解决了表示缠结问题，并在两个实际基准测试上取得了竞争性甚至最先进的结果，从而验证了我们的提议的有效性。

    Jul, 2023

  • MetaMixer 是你所需要的一切

    通过将自注意力转换为采用大型卷积和 GELU 激活函数的更类似于 Feed-Forward Network 的有效令牌混合器，作者尝试验证了查询 - 键 - 值框架的重要性，并提出了一种新的混合器体系结构 MetaMixer，在仅使用简单操作（如卷积和 GELU）的情况下取得了卓越的性能改进。

    Jun, 2024

  • 加速训练 Transformer 模型的多层框架

    我们提出了一个多层框架，通过合并和解散以及插值操作来加速训练，从而降低了 BERT/GPT-Base 模型的计算成本约 20%，以及 BERT-Large 模型的计算成本高达 51.6%，同时保持了性能。

    Apr, 2024

  • MatFormer: 嵌套变压器用于弹性推理

    MatFormer 介绍了一种嵌套的 Transformer 架构，允许精细控制模型大小和推理延迟，同时能提取准确的子模型以降低推理时间。

    Oct, 2023

  • FastFormers: 高效 Transformer 模型的自然语言理解

    本研究提出了 FastFormers 来加快基于 Transformer 模型的 NLU 任务的推理效率，可以通过运用知识蒸馏、结构剪枝和数值优化等方法，将预处理模型在 CPU 和 GPU 上的速度提高至 9.8-233.9 倍，节省成本的同时降低能耗。

    Oct, 2020

  • 漏斗变压器：通过过滤连续冗余提高语言处理效率

    本研究提出了 Funnel-Transformer 模型，利用序列压缩来提升模型效率，在保证单向量序列表征的前提下极大地减少了计算成本。通过在模型构建时重新投资在长度缩短中节省下来的 FLOPs，进一步提高了模型容量。实验表明，Funnel-Transformer 在一系列序列级别的预测任务上表现优秀，包括文本分类、语言理解和阅读理解。

    Jun, 2020

  • 神经机器翻译的多层表示融合

    本文提出多层表示融合（MLRF）方法来融合神经机器翻译系统中的堆叠层，并设计三个融合函数以从堆叠中学习更好的表示。实验结果显示，我们的方法在 IWSLT 德英和 NIST 中英机器翻译任务上分别比强 Transformer 基线提高了 0.92 和 0.56 BLEU 分数，这是新的德英翻译的最新水平。

    Feb, 2020

  • nnFormer: 交错 Transformer 用于体积分割

    介绍了一种新的医学图像分割模型 ——nnFormer，利用了 3D Transformer 模型的自注意机制，相比之前的 Transformer 模型在三个公开数据集上都取得了更好的性能。

    Sep, 2021