network size | BriefGPT - AI 论文速递

关键词network size

搜索结果 - 8

离线强化学习的简单成分
离线强化学习算法被证明在与目标下游任务高度相关的数据集上非常有效，然而，在轨迹来自不同源头的新测试平台（MOOD）上，我们发现现有方法在面对不同数据时效果明显下降：随着收集到的与任务相关但不同的数据简单地添加到离线缓冲区，它们的性能显著恶化
PDF4 months ago
高维线性回归中的分布式连续学习与 CoCoA
我们从分布式估计的角度研究在信号特征随时间变化的情况下的估计问题，具体而言，我们考虑在不同任务（例如具有不同分布的数据）连续到达的情况下，如何在新到达的任务上表现良好同时不降低先前任务的性能，我们研究了分布式学习算法 COCOA 在线性回归
PDF7 months ago
ICLR稀疏熵 - 瓦瑟斯坦回归强大的网络剪枝
本研究提出了一种先进的神经网络剪枝技术，通过在计算经验 Fisher 信息矩阵（FIM）过程中巧妙处理嘈杂的梯度。我们介绍了一种基于几何属性的熵 Wasserstein 回归（EWR）模型，通过采用数据点之间的邻域插值实现噪声缓解。Wass
PDF9 months ago
ACCDOA：面向声音事件定位和检测的活动相连的笛卡尔方位角表示法
本文提出了一种基于活动耦合笛卡尔方向角 (ACCDOA) 表示法，将声学事件的活动分配到相应的笛卡尔方向角矢量的长度中，以解决单目标 SELD 任务的平衡问题以及模型大小增加的问题，并使用 DCASE2020 Task 3 数据集进行实
PDF4 years ago
深度协作学习的知识转移图
本文提出了一种新的基于图的知识迁移方法，其中引入了知识迁移图和四个门函数来控制梯度，以实现更加灵活和多样化的迁移方式。实验结果表明，该方法在 CIFAR-10、-100 和 Tiny-ImageNet 数据集上实现了显著的性能改进，并能够发
PDF5 years ago
深度神经网络特征相关性研究
本文探讨了深度神经网络中冗余特征的提取，发现网络大小和激活函数是促进其提取冗余特征的两个最重要的因素，使用 MNIST 数字识别和 CIFAR-10 数据集中的多层感知器和卷积神经网络说明了该概念。
PDF5 years ago
MM预训练和 Dropout 的收敛速率：通过网络结构指导学习参数
本文探讨了网络结构、学习机制和参数收敛速率之间的关系，提出了一种基于一阶信息的通用顺序反向传播方法，并将去噪自动编码器和 dropout 方法应用到该方法中，通过界定深度网络的收敛速率来提供学习参数和网络大小选择方面的见解。
PDF9 years ago
近似概率推断的大偏差方法
研究二层二值随机变量信念网络，其中条件概率 Pr [childlparents] 取决于父节点的加权和，证明使用大偏差理论可以计算许多感兴趣的概率的上下界，特别是证明作为网络大小函数的边际概率 Pr [children] 的精确度的收敛速率
PDF11 years ago