BriefGPT.xyz
大模型
Ask
alpha
关键词
neural rank collapse
搜索结果 - 1
神经排序崩溃:权重衰减和小的内类变异性带来低秩偏差
深度学习中的低秩偏好与神经网络的神经层塌陷现象相关,权重衰减参数的增长导致网络中每一层的秩与前一层隐藏空间嵌入的类内变异成正比减少。
PDF
5 months ago
Prev
Next