inference complexity | BriefGPT

关键词inference complexity

搜索结果 - 7

优化偏好链：改进 LLMs 中的思维链推理
通过 fine-tuning LLMs，利用 tree-of-thought 方法构建的搜索树，实现了链式思考解码 (CoT) 在复杂问题求解中取得类似或更好性能的成果，避免了大量的推理负担。
PDF21 days ago
EMNLP加速具有常数时间推理复杂度的 Toeplitz 神经网络
该研究论文介绍了如何通过将 Toeplitz 神经网络转换为状态空间模型，在推理过程中实现与状态空间模型一样的恒定推理复杂度，从而充分发挥两者的优势，并展示了在语言建模任务中的有效性和数值稳定性。
PDF8 months ago
无监督的绿色物体跟踪器 (GOT) 无需离线预训练
提出了一种新的单目标追踪方法 —— 绿色物体追踪器 (GOT)，它能在不进行离线预训练的情况下实现轻量级高性能追踪，并具有算法透明度。与需要离线预训练的最先进的无监督追踪器相比，GOT 具有较低的计算成本和较小的模型尺寸，在保持竞争追踪准确
PDF10 months ago
基于注意力图引导的边缘设备 Transformer 剪枝
研究通过注意力图引导剪枝和键和值矩阵的重要性估计来减少模型大小和推理复杂性，该方法成功地应用在基于 ViT 的人物再识别模型上，减少了 29.4％的 FLOPs 并提高了 0.4％的 mAP。
PDFa year ago
在视觉 Transformer 中追求稀疏性：一次端到端的探索
本文旨在从减小训练存储开销和推理复杂度的角度，提出一种先将 Vision transformers 稀疏化，然后再训练的方法，从而实现一定的加速效果并保持较高的精度。
PDF3 years ago
深度神经网络的紧凑且计算效率高的表示
本研究提出了新的矩阵格式，其内存和算法复杂性受矩阵熵的隐式限制，可以更有效地进行神经网络的推理操作，达到多达 42 倍的压缩比、5 倍的加速比和 90 倍的能源节约。
PDF6 years ago
概率逻辑程序的语义和复杂度
本文研究基于 Sato 分布语义的概率逻辑程序，分析了基于稳定和基于良基模型这两种语义，探讨了 credal 语义产生的概率模型集合是无限单调 Choquet 容量的结果产生的几个有用的结果，并研究了其推理和查询的复杂度。作者对此进行了详细
PDF7 years ago