May, 2022

BabyBear：针对昂贵语言模型的廉价推理分流

PDF
TL;DRBabyBear 是一种自然语言处理的 CASCADING MODEL 框架，其中采用了 Inference Triage 策略，使得在分类等任务中，减少了计算成本，同时仍然可以达到较高精度。
transformer language modelsbabybearcascading modelsinference triagenlp tasks
发现论文，激发创造
  • TangoBERT：使用级联架构以降低推理成本

    TangoBERT 是一种分层式的模型架构，能够通过在推理时间内降低计算负载来实现高速推断，并利用常规层级变压器模型的批量大小优化来增加相对推断成本的降低。

    Apr, 2022

  • $C^3$: 用于推理高效的跨语言自然语言理解的置信度校准模型级联

    本研究引入了一种置信度校准的模型级联方法（$C^3$），通过在级联推断之前进行校准，提高了级联的准确性，实验证明 $C^3$ 明显优于所有现有的基线模型。

    Feb, 2024

  • CascadeBERT：通过校准完整模型级联加速预训练语言模型推断

    本研究分析了动态提前退出的工作机制，并发现其在高速比下面临性能瓶颈。为了解决这个问题，提出了一个新的框架 CascadeBERT，可以在重要性和正确性方面提供综合的表示。 经过实验证明，与现有的动态提前退出方法相比，CascadeBERT 在六个分类任务上的性能提升达到了 15％，可实现 4 倍加速。

    Dec, 2020

  • 选择适合的工具：匹配模型和实例的复杂度

    为了更好地优化给定的推理预算，我们提出了一种改进的上下文表示微调方法，它允许神经网络在简单实例中早期 (快速) 地进行神经网络计算，并允许在困难实例中晚期 (准确) 地退出，以交换精度和推理速度，而不需要昂贵的计算资源。

    Apr, 2020

  • 模型级联：提高 NLP 系统的效率和准确性

    本研究旨在探讨利用容量不同的模型集合进行级联的 Model Cascading 技术，能够提高 NLP 系统的计算效率和预测准确性，并且引入更多模型可进一步提高效率。

    Oct, 2022

  • 级联感知语言模型的训练

    通过级联语言模型的优化训练方法，本研究提出了一种能够减少服务成本和延迟的解决方案，并在超过 60 个语言模型任务中展示了该方法的价值。

    May, 2024

  • 大小变压器解码器

    提出了 Big Little Decoder (BiLD) 框架来提高文本生成的推理效率和延迟，通过两个不同大小的模型协同生成文本。在各种文本生成情景下应用 BiLD，如机器翻译、摘要生成和语言建模，在 NVIDIA Titan Xp GPU 上实现高达 2.38 倍的加速且不对性能造成显著的损失。

    Feb, 2023

  • 抓住早期的错误：利用编码器模型的早期层进行更有效的代码分类

    本文介绍了 EarlyBIRD 方法，用于在预训练的 transformer 模型的早期层中构建代码的组合表示，旨在提高软件工程任务的性能，并可用于漏洞检测和类型推断。实验证明早期层的组合可在使用同样资源的情况下获得更好的结果，并能在微调和推断期间降低资源使用。

    May, 2023

  • DeeBERT：加速 BERT 推理的动态早退出

    DeeBERT 是一种简单而有效的方法，可以加速 BERT 的推理并降低推理时间。实验结果显示 DeeBERT 能够在保持模型质量的情况下，最多节省约 40％的推理时间，这为高效地应用基于 transformer-based 的深度模型提供了新思路。

    Apr, 2020

  • 基于 Transformer 的神经文本表示技术在错误分配中的比较研究

    本研究通过使用 DeBERTa 技术，对 53 年的开源数据集进行了自动故障调整的任务进行了量化和定性分析，结果表明 DeBERTa 是在开发者和组件分配等任务中最有效的技术。

    Oct, 2023