BriefGPT.xyz
大模型
Ask
alpha
关键词
linear recurrence
搜索结果 - 2
深度选择状态空间模型的理论基础
基于 Rough Path Theory,本研究证明了具备选择性机制的随机线性递归在输入控制条件下可产生低维投射的隐藏状态,并阐述了现代选择性状态空间模型的成功和未来 SSM 变体的表达能力。
PDF
4 months ago
ICLR
GateLoop: 全数据控制的线性递归用于序列建模
门控循环模型 GateLoop 利用了线性递推模型的潜力,通过采用数据控制的状态转换,推广了线性递归模型,如 S4、S5、LRU 和 RetNet,实现了比现有模型更优越的自回归语言建模,具有低成本的递归模式和高效的并行模式以及对 Tran
→
PDF
8 months ago
Prev
Next