compositional kernels | BriefGPT

关键词compositional kernels

搜索结果 - 5

ICLR混合随机特征
提出了一种新的混合随机特征 (HRFs) 类用于线性化 Softmax 和高斯核，通过波谷转换并利用随机特征来提供更精确的核估计，具有较强理论保证，经过实证评估，在点核估计实验中获得了好的结果，同时还能应用在数据聚类以及机器学习下游应用中。
PDF3 years ago
Mehler 公式，分支过程和深度神经网络的组合核函数
通过 Mehler 公式探究组合内核和分叉过程之间的连接，研究了深度神经网络的数学作用。此外，提出了一种新的随机特征算法，并研究了组合内核的特征值，进一步说明了相应再生核希尔伯特空间的复杂性。
PDF4 years ago
无切线的神经核函数
通过研究神经网络和内核空间中的简单构建块之间的联系，我们提出了一种从特征组中创建 “组合” 内核的代数。在实验中，我们发现神经网络体系结构和相关内核的测试误差之间存在相关性，并构建了一个只使用 3x3 卷积、2x2 平均池化、ReLU 并使
PDF4 years ago
组合核的随机特征
本研究介绍并分析了一种简单的随机特征方案 (RFS)。我们使用的复合核受卷积神经网络和内核结构的启发，生成的方案产生了稀疏且高效计算的特征。每个随机特征都可以表示为合成树中少量（随机的）路径的代数表达式，这样，复合型随机特征可以被紧密地存储
PDF7 years ago
深度理解神经网络：初始化的能力和表达能力的双重视角
我们开发了神经网络和组合核之间的一般对偶，从而更好地理解深度学习。我们表明，由普通随机初始化生成的初始表示足够丰富，以在对偶核空间中表达所有函数。因此，虽然最坏情况下目标函数很难优化，但初始权重形成了优化的良好起点。我们的对偶视角还揭示了神
PDF8 years ago