adaptive inference | BriefGPT

关键词adaptive inference

搜索结果 - 11

ICML重访级联集成以提高推理效率
本文研究了一种简单的自适应推理方案，通过构建级联模型集成（CoE）并根据集成一致性作为数据依赖路由准则，将资源高效的模型逐渐扩展到更表达能力的模型，从而提高准确性并降低推理成本。
PDF2 days ago
DAISY: 自适应数据自我监督的语音表示模型的早期退出
自主训练的语音模型在各种任务中已显示出其有用性，但其庞大的体积限制了在计算能力和内存较低的设备中的使用。本论文探讨了一种早期退出的方法，用于通过尽早退出网络的前向过程来减少延迟。我们介绍了数据自适应自主训练早期退出（DAISY）方法，该方法
PDFa month ago
CVPRAdaBM：基于即时自适应位映射的图像超分辨率
超分辨率图像处理中的自适应推理方法，通过量化位宽的调整降低了计算和存储开销，从而在保持准确性的同时加快了处理速度。
PDF3 months ago
SHARCS: 通过动态宽度子网络进行有效的 Transformer 路由
SHARCS 是一种自适应推理方法，通过考虑输入样本的难度，训练了一个路由器来将不同样本定向到具有不同宽度的子网络，实验证明，SHARCS 在准确性与 FLOPs 方面优于或补充了现有的逐样本自适应推理方法，能够泛化到不同的架构，甚至应用于
PDF9 months ago
ACL寻找甜点：低资源环境下自适应推理的分析与改进
本论文比较了有限训练数据情况下，自适应推断的两种主要方法：Early-Exit 和 Multi-Model，提出了一种名为 SWEET 的 Early-Exit 微调方法，在保持速度相当的情况下，优于 Early-Exit 和 Multi-
PDFa year ago
CVPRDynamicDet: 一种用于物体检测的统一动态架构
本文提出了一种名为 DynamicDet 的动态框架，该框架基于对象检测任务的本质，设计了一种动态架构，并提出了一种自适应路由来分析多尺度信息并自动决定推理路线，然后提出了一种新的基于检测损失的优化策略，最后提出了一种可变速推理策略，该策略
PDFa year ago
动态视觉识别的快速扫描和精确定位网络
本文提出了一个新的序列特征学习方法，Glance and Focus Network（GFNet），用于图像识别问题中的减少空间冗余和时间复杂度的优化，GFNet 采用类似人类视觉系统的粗到细的学习方式处理图像，并通过强化学习的方式定位图像
PDF2 years ago
早期退出网络的自适应推断：设计、挑战与方向
该研究论文介绍了早期退出网络的设计方法和最新进展，比较了与其他高效推理解决方案的优劣，并提出了未来研究的挑战和方向。
PDF3 years ago
一种减少图像分类中空间冗余的动态方法：凝视和聚焦
为了提高卷积神经网络（CNNs）的分类准确率，但不增加计算与存储成本，我们提出了一种采用强化学习所选择的原始图像中的一系列相对较小的输入进行处理的框架，从而实现了高效的图像分类。实验表明，采用我们提出的方法可以在不牺牲准确性的前提下显著提高
PDF4 years ago
CVPR高效推理的分辨率自适应网络
本论文提出一种新颖的分辨率自适应网络（RANet），通过利用输入样本的空间冗余性，有效地降低了深度网络的计算成本，同时在 CIFAR-10、CIFAR-100 和 ImageNet 数据集上展示了其性能优越性。
PDF4 years ago
训练自适应深度网络的改进技术
本文研究了如何更有效地训练具有多个中间分类器的自适应深度网络，提出了梯度均衡算法，内联子网络协作方法和一对所有知识蒸馏算法等三种方法，以改进分类器协作并进一步提高自适应性深度网络的效率。在 CIFAR-10，CIFAR-100 和 Imag
PDF5 years ago