lookahead | BriefGPT - AI 论文速递

关键词lookahead

搜索结果 - 6

Lookahead: 大型语言模型的推理加速框架，保持生成准确性
该研究论文介绍了一种加速检索和生成过程的通用框架，通过引入多分支策略和基于 Trie 的检索过程，实现了 Retrieval-Augmented Generation 系统的推理速度的显著提升。
PDF7 months ago
通过较大的学习速率探索领域泛化的平坦极小值
通过引入称为 Lookahead 的训练策略，结合了大学习率和权重插值的方法，提高了模型在域泛化中的泛化能力，并且在分类和语义分割域泛化基准上取得了最先进的性能。
PDF10 months ago
用声学前瞻改进 RNN-Transducers
本文介绍一种名为 lookahead 的技术，它通过向后查看传入音频，使文本表示更具有声学基础，从而在域内外评估集上显着降低了 5％- 20％的词错误率。
PDFa year ago
零和马尔可夫博弈强化学习的一种新政策迭代算法
本文提出了一种对于零和马尔可夫游戏的学习策略 ——lookahead 策略，该策略使用简单的 naive policy iteration，在计划阶段实现高效的收敛，进一步阐述了在使用我们的算法进行计算规划时的时间复杂度和样本复杂度界限。
PDFa year ago
预见优化器：向前 k 步，向后 1 步
该论文提出了一种新的优化算法 Lookahead，针对目前普遍使用的 SGD 和 Adam 优化算法进行了改进，能够提高学习的稳定性和性能表现。
PDF5 years ago
扩展和实现稳定模型语义
提出了一种用于计算逻辑程序稳定模型语义的算法，强调使用有效的实现技术，特别地，提出了一种展望的实现和一种通过最小化搜索空间来产生良好的启发式方法。结果表明，稳定模型语义的逻辑程序具有更紧凑的逻辑程序表示，因此在某些问题上比命题逻辑优越。
PDF24 years ago