关键词randomization techniques
搜索结果 - 4
- 提升深度学习性能的随机性技术研究
本研究调查了各种随机化技术对深度神经网络 (DNNs) 的影响，发现添加噪音和随机掩码梯度更新等随机化方法有助于减少过拟合和增强泛化能力。使用粒子群优化器 (PSO) 进行超参数优化，对 MNIST、FASHION-MNIST、CIFAR1 - 正交随机特征：显式形式和尖锐不等式
通过正交随机特征来近似普遍的高斯核，本研究分析了基于正交随机特征的核逼近的偏差和方差，并通过使用归一化贝塞尔函数推导出了明确的表达式，并提供了支持正交随机特征比随机傅里叶特征更具信息性的尖锐指数界限。
- 利用信息控制偏差：数据探索过拟合的程度如何？
提出了一种基于信息使用的方法来量化和限制任意探索性分析的偏差和其他误差指标，在此基础上分析和评估了过滤、排名选择和聚类等特定探索性分析方式的偏差。同时，该方法引出了随机化技术，可以证明减少了探索偏差同时保留了数据分析效用，从而帮助解决科学中 - 半定规划的子抽样算法
使用随机化技术推导出半定规划的随机梯度算法，通过采用子采样来降低每次迭代的计算成本，从而控制迭代的代价和总迭代次数的平衡，算法的复杂度与解决方案的复杂度成正比，该算法在统计学习的某些大规模问题上表现良好。