computational budget | BriefGPT

关键词computational budget

搜索结果 - 12

我有一个关注桥要向您推销：模块化翻译架构的泛化能力
模块化是机器翻译的一种范例，具有在训练时模型变得庞大而在推断时变得小巧的潜力。在此研究领域中，模块化方法，尤其是注意力桥，被认为通过促进语言无关的表示来改善模型的泛化能力。本文研究了模块化对翻译质量的影响，以及模块化架构在不同评估场景下的泛
PDF2 months ago
在有限计算资源下学习来自稀疏标注数据流的连续学习
我们提出并研究了一种现实的连续学习（CL）设置，其中学习算法在训练过程中具有每个时间步的限制计算预算。我们将此设置应用于稀疏标签率的大规模半监督连续学习场景中。我们提出了一种简单但非常有效的基准方法 DietCL，该方法联合利用未标记数据和
PDF2 months ago
无存储约束的在线持续学习
本文提出了一种用于在线连续学习问题的简单算法，该算法采用 kNN 分类器和通用预先训练的特征提取器，可以在小的计算预算下紧凑存储和利用整个数据流，既能减少过往数据的灾难性遗忘，同时也能快速适应快速变化的数据流，同时在 Continual L
PDFa year ago
CVPR计算预算下的持续学习：什么是最重要的？
本文研究了当计算资源受限时传统的 Continual Learning 方法的效率，并表明它们对于实际部署来说太过计算密集，推荐使用在存储器上均匀抽样作为最初基线。
PDFa year ago
ECCV目标检测中所有提议是否应平等对待？
针对资源受限视觉任务中目标检测器的复杂度与精度权衡问题，研究了检测头中建议处理的影响，提出动态建议处理（Dynamic Proposal Processing，DPP）的概念，将更多计算分配给好的建议，使得可用计算预算得到更好的利用，从而在
PDF2 years ago
图像反问题的深度平衡结构
这篇文章提出了一种基于 Deep Equilibrium Models 的方案，通过无限循环的迭代，不断提高图像逆问题的重建精度，同时在测试时可以根据不同场景的需求选择不同的计算预算以优化精度和计算的权衡。
PDF3 years ago
f-BRS: 重新思考交互式分割的反向传播细化
该研究论文提出利用深度神经网络进行交互式分割的算法，采用基于影像学习的 backpropagating refinement (BRS) 方案进行优化，提高处理较难图像的准确度。同时，本研究提出 f-BRS 方案，使处理速度较原始 BRS
PDF4 years ago
UNIQ: 神经网络非均匀量化的均匀噪声注入
本研究提出了一种新颖的神经网络量化方法，该方法模拟了一个自适应于量化参数分布的非均匀 k - 分位数量化器，相较于现有的均匀量化技术，我们的方法在低计算预算方面具有优势，为神经网络量化提供了一种新的选择。
PDF6 years ago
卷积网络中的随机下采样，实现成本可调节推断和改进正则化
本研究提出了一种成本可调的卷积神经网络推理方法 - 随机下采样点（SDPoint），通过对特征图进行随机下采样，使得同一模型的不同 SDPoint 实例具有不同的计算成本，并在训练中实施参数共享以提高正则化效果，在推理阶段，可根据不同的推理
PDF6 years ago
变量计算预算的循环分割
本文提出了一种递归神经网络用于语义图像分割，该网络可在各种计算预算的范围内部署，并可用于有效地分割静态图像和视频。该方法通过利用先前帧的分割来进行视频分割，在降低计算成本的同时保持了分割质量。
PDF7 years ago
ICML决定如何决策：人工神经网络中的动态路由
我们提出并系统评估了三种训练动态路由人工神经网络的策略：通过学习变换的图形，不同的输入信号可以采取不同的路线。我们发现，在训练用于分类图像的动态路由网络中，层和分支变得专门处理不同类别的图像。此外，给定固定的计算预算，动态路由网络往往比可比
PDF7 years ago
SpeedMachines: Anytime 结构预测
本研究提出了一种应用于计算机视觉的结构化预测方法，在训练过程中综合加入了结构和特征计算的权衡，在测试时具有任意性，以达到提高最佳分类性能的目的。
PDF11 years ago