BriefGPT.xyz
Ask
alpha
关键词
context-free languages
搜索结果 - 3
层叠注意力:提高 Transformer 模型对层次模式建模的能力
我们提出了堆栈注意力:一种集成堆栈的注意力操作符,其灵感来源于堆栈与上下文无关语言(CFLs)的理论联系,以解决标准注意力无法识别某些句法结构的局限性。我们提出了两种变种:一种与确定性下推自动机(PDAs)相关,一种基于非确定性 PDAs,
→
PDF
9 months ago
ICLR
非确定性堆栈循环神经网络的惊人计算能力
通过给循环神经网络增加非确定性堆栈数据结构,可以扩展循环神经网络的语言识别能力,识别上下文无关语言和更多的非上下文无关语言,同时提高信息容量,这可以通过模拟向量堆栈来实现。
PDF
2 years ago
ACL
依赖解析中非交叉图族的通用公理化
该研究提出了一种用于未标记的无交叉图编码的简单方法,并展示了通过其潜在的对应物,如何代表在自然语言的句法和语义分析中使用的几个有向和无向图族作为上下文无关语言。这些族基于潜在编码中的禁止模式而分离,因此在推理算法中不需要区分非交叉图族,当可
→
PDF
7 years ago
Prev
Next