BriefGPT.xyz
大模型
Ask
alpha
关键词
dejavu
搜索结果 - 2
回到过去:推理阶段中的高效低密度语言模型
使用上下文稀疏性预测算法和异步硬件感知实现,提出了 DejaVu 系统,可在不影响模型质量的情况下将 OPT-175B 的推理延迟降低了 2 倍,并且相比于最先进的 FasterTransformer 实现和广泛使用的 Hugging Fa
→
PDF
8 months ago
CVPR
DejaVu: 有条件的再生性学习以提升密集预测
DejaVu 通过条件图像重建作为额外的监督来提高用于密集预测任务的深度学习网络,在多个密集预测基准测试中还展示出显著的性能优势。
PDF
a year ago
Prev
Next