BriefGPT.xyz
Ask
alpha
关键词
initializations
搜索结果 - 6
快速致富：精确解揭示不平衡初始化是如何促进快速特征学习的
该研究揭示了神经网络中特征学习的机制及其对学习速度、初始值的敏感性，并提供了使用不平衡初始化来增强高效特征学习的理论依据。
PDF
a month ago
有原则的考虑架构的超参数缩放
通过对神经网络架构的深入研究，在初始化和学习率方面提出了新的原则，并验证了其对网络性能的改进，从而为当前架构设计的基准测试提供了新的方法。
PDF
4 months ago
ICLR
彩票假说：寻找稀疏的可训练神经网络
该文在进行神经网络剪枝过程中提出了 “彩票票假设”，即在一个密集、随机初始化的前馈神经网络中存在一些幸运的子网络，当其被隔离地训练时，可以在相似的迭代次数内达到与原始网络相当的测试准确性，通过一系列实验验证了该假设的正确性和这些幸运初始化的
→
PDF
6 years ago
NIPS
如何开始训练：初始化和架构的影响
本文针对深度 ReLU 神经网络早期训练的两种常见失效模式进行研究和识别，为每种模式提供了严格的证明以及如何避免。我们证明了正确的权重初始化以及架构可以使得深层神经网络成功训练，并在实验中证实了我们的理论结果的有效性。
PDF
6 years ago
ACL
关于词嵌入方法的收敛性质
本文提出了一种评估单词表示学习方法的方法，即通过评估不同初始值下学习得到的单词表示的一致性。通过提出的度量标准，评估结果不仅揭示了单词嵌入方法的内在特性，还与下游任务的其他评估指标具有良好的相关性，这对于开发新的单词嵌入方法具有重要的鲁棒性
→
PDF
8 years ago
视频艺术风格迁移
本研究提出了一种基于图片样式迁移的视频样式迁移方法，使用新的初始化和适用于视频的损失函数能够生成一致和稳定的艺术风格视频序列，即使在大运动和强遮挡的情况下，该方法在质量和数量上都明显优于基线算法。
PDF
8 years ago
Prev
Next