dropout regularization | BriefGPT

关键词dropout regularization

搜索结果 - 9

基于李雅普诺夫的辍学深度神经网络 (简称 Lb-DDNN) 控制器
本研究开发了一种基于 dropout 的深度神经网络自适应控制器，该控制器通过随机选择每个层内的权重进行随机失活，并引入基于 Lyapunov 的实时权重调整规律来实现在线无监督学习。经过非光滑的 Lyapunov 稳定性分析，该控制器保证
PDF8 months ago
R-Block: 卷积网络的正则化 Dropout 块
通过引入互相学习的训练策略，即 R-Block，结合两个不同 dropout 区域的互补子模型，该方法能够减小卷积层中的随机性，提高了性能和一致性。
PDFa year ago
基于双指数族的扩展广义线性模型中的 Dropout 正则化
在广义线性模型中研究 dropout 正则化的理论属性，应用于自适应平滑，表明 dropout 是一种有效的正则化方法，优于带有显式平滑惩罚的最大似然方法。
PDFa year ago
Aux-Drop: 辅助 Dropout 处理在线学习中的非正常输入
该研究提出了一种名为 Aux-Drop 的深度学习辅助随机失活正则化策略，用于有效处理基于在线学习的无序输入特征，已在多个数据集上进行了广泛的数值实验检验其有效性。
PDFa year ago
异步分布式 Dropout 实现高效轻量化联邦学习
提出了一种利用辍学技术处理分布式异构设备的异步联邦学习（FL）框架 AsyncDrop，有效减少了通信成本和训练时间，提高了非 iid FL 场景的最终测试精度。
PDF2 years ago
ICMLDropout 作为一种结构收缩先验
研究了深度神经网络的 dropout 正则化并提出了一种新的框架来理解深度神经网络中的加性噪声。研究了多种不同噪声并导出了其等价性，进而使 dropout 的 Monte Carlo 训练目标逼近了边缘 MAP 估计。进一步基于这些洞见提出
PDF6 years ago
ICLR对抗性 Dropout 正则化
提出了一种利用 Adversarial Dropout Regularization 的方法来实现神经表示从有标签的源域到无标签目标域的转移，以提高语义分割和图像分类任务的准确性，并证明了该方法的有效性。
PDF7 years ago
深度学习：贝叶斯视角
本文介绍了一种基于贝叶斯概率论的深度学习方法，并应用于 Airbnb 的国际订房预测，结果表明深度学习对于高维数据预测有较好的表现。
PDF7 years ago
使用 Dropout 正则化从嘈杂标签中学习深度网络
该篇论文提出了一种纠正深度神经网络中标签不准确的技术：通过增加一个噪声模型的 softmax 层，采用端到端的随机梯度下降来优化网络以及噪声模型，借助 dropout 正则化防止噪声模型过于简单。在 CIFAR-10 和 MNIST 数据集
PDF7 years ago