fast inference | BriefGPT - AI 论文速递

关键词fast inference

搜索结果 - 4

利用大型语言模型从大规模输出空间中提取间接知识的零 - shot 学习
我们提出了一种通过大型语言模型（LLM）的反馈来训练一个小型双编码器模型的框架，该双编码器模型将文档和标签编码为用于检索的嵌入向量。我们的方法利用 LLM 的零样本能力来评估标签与文档之间的相关性，而不是使用从文档本身提取的低质量标签。我们
PDF23 days ago
HiVLP: 面向快速图像 - 文本检索的分层视觉语言预训练
本文提出了一种用于快速图像 - 文本检索的 Hierarchical Vision-Language Pre-Training（HiVLP）方法，具有快速推理速度和可扩展性，并能够在大规模检索场景下进行优化表现，在 Flickr30k 和
PDF2 years ago
KDD基于贝叶斯思想的非线性支持向量机在大数据中的应用
该论文提出了一种通过应用随机变分推理和诱导点来加速贝叶斯非线性支持向量机推理的方法。实验表明，该方法比现有的贝叶斯方法更快，可以轻松扩展到数百万个数据点。除了准确的预测不确定性估计和自动超参数搜索外，该方法还提供了其他功能。
PDF7 years ago
学习分层组合形状词汇以进行多类物体表示
通过递归组合简单的轮廓片段，并结合简单的形状组合和逐层学习和逐渐增加分析窗口的大小，可以学习出一种用于表示多种物体类别的层次化组合形状词汇，并在更快的推理以及更短的训练时间内实现了最先进的检测性能。
PDF10 years ago