random feature model | BriefGPT

关键词random feature model

搜索结果 - 4

随机特征的广义化性能改善的最优非线性
通过对等效模型的参数进行研究，本文通过优化非线性激活函数，实现了对给定监督学习问题的改善，验证了这些优化的非线性函数在回归和分类问题中比常用的非线性函数（如 ReLU 函数）具有更好的泛化性能，并且缓解了所谓的 “双峰下降” 现象。
PDF9 months ago
基于学生 - 老师框架的随机特征模型的在线学习
研究了两层神经网络中过参数化对学生 - 教师框架的影响，发现只有当学生的隐藏层数量指数级大于输入维度时，才能达到完美的泛化。同时计算了其渐进的泛化误差。
PDFa year ago
Banach 空间之间输入输出映射的随机特征模型
本文提出了一种利用随机特征模型作为映射输入 Banach 空间到输出 Banach 空间之间算子的数据驱动代用模型的方法，将其视为非侵入式的数据驱动模拟器，提供了其解释的数学框架，并演示了其有效和准确地近似两个物理科学和工程应用中出现的原型
PDF4 years ago
深度神经网络模型中带有跨连接的梯度下降算法分析
研究了具有跳跃连接的深度神经网络模型的梯度下降算法的行为。证明了在超参数化区域内，通过适当的初始化，梯度下降可以以指数速度找到全局最小值。建立了沿着梯度下降路径的泛化误差评估，并得出在目标函数是由初始化定义的核定义的再生核希尔伯特空间（RK
PDF5 years ago