BriefGPT.xyz
Ask
alpha
关键词
inductive learning biases
搜索结果 - 2
只预训结构:利用迁移学习理解语言归纳偏差
本研究通过对语言模型进行先验的结构性偏置,探索了不同感性学习偏差的影响,并研究了三种感性偏差的相对成功:1)递归,分层处理的感性偏差;2)无法通过上下文自由文法建模的无限制令牌 - 令牌依赖的感性偏差;和 3)一个 Zipfian 幂律词汇
→
PDF
a year ago
超越 Transformers 的函数学习
本研究通过向 Transformer 架构添加两种归纳学习偏差来探究个体的外推能力,结果表明,这些偏差对大型神经网络模型有帮助,也揭示了人类的归纳性学习偏差的类型。
PDF
a year ago
Prev
Next