neural network weights | BriefGPT

关键词neural network weights

搜索结果 - 11

增强神经表示的准确性和参数效率
参数化神经网络权重的准确性和参数效率之间的基本权衡被研究，表明通过仅使用权重重构目标可以有效地实现恢复原始模型的准确性。此外，通过探索提高权重重构在参数效率约束下的潜在因素，提出了一种新的训练方案，将重构目标与知识蒸馏等辅助目标分离，相对于
PDF5 days ago
固体迁移性神经波函数
基于深度学习的变分蒙特卡洛（DL-VMC）近期被证明是一种高精确度的方法，用于找到多电子薛定谔方程的近似解。
PDF2 months ago
基于扩散的神经网络权重生成
通过数据集条件的预训练权重采样，我们提出了一种高效且适应性强的迁移学习方案，通过学习一组预训练权重的分布来实现神经网络在未见数据集上的自适应采样，从而实现更快的收敛速度和更优的性能。
PDF4 months ago
基于 Wasserstein 距离的加权提升选择性
通过设计一种简单高效的贪婪算法来重新加权损失函数，从而使神经网络权重的极限分布逼近训练于另一个数据集上所得到的极限分布，算法可用于引入数据分布偏移进行多准则优化。
PDF5 months ago
特征模仿的广泛影响：在金融、语音和生理领域的神经增强
神经网络权重的初始化在决定其性能方面起着关键作用。特征模仿网络（FINs）通过将权重初始化为逼近特定的闭式统计特征，为深度学习架构奠定了有希望的基础。本研究将 FINs 的适用性扩展到其他时间序列数据集，并在比特币价格预测、语音情感识别和慢
PDF9 months ago
超表示作为生成模型：采样未见的神经网络权重
本文介绍了一种基于模型动物园的神经网络权值表示学习方法，借助该方法可以生成高性能模型，此外还探讨了模型之间特性聚合对学习效果的影响。
PDF2 years ago
ICML无限深度神经网络的变分推断
介绍了无限深度神经网络 (UDN)，这是一种无穷深的概率模型，可以根据训练数据自适应其复杂性。它包含一个无限序列的隐藏层，并对截止层数形成一个无界先验。通过开发一种新的变分推断算法来逼近其后验分布，优化神经网络权重和截止层数的分布，该算法探
PDF2 years ago
学习何处学习：元学习和持续学习中的梯度稀疏性
通过使用稀疏梯度下降的元学习方法，可以改善神经网络权重初始化的泛化能力，从而实现少量权重改变导致低泛化误差，并且这种选择性稀疏性机制使得元学习在 Few-shot 和 Continual 学习等问题上更加高效。
PDF3 years ago
强化学习中的行为转移：超越微调
该文讨论用 Behavior Transfer（BT）技术进行强化学习中的知识迁移，探讨其对于解决复杂任务的效率提升，主要研究内容包括：神经网络权重细调、预训练策略、探索性能及内在动机引擎等。
PDF3 years ago
RADAR: 运行时敌对权重攻击检测与准确性恢复
本文提出 RADAR 方法，通过将权重组织成组，采用校验和算法从各组中提取 2 位签名，在推理阶段计算和金标准签名进行比较，以检测和恢复神经网络权重的渐进位反转攻击并减弱其损失，其符合实时攻击检测并具有极低的时间和存储开销。
PDF3 years ago
来自贝叶斯神经网络的有效且可迁移的对抗样本
使用贝叶斯深度学习技术，以神经网络权重的后验分布进行抽样建立一个 surrogate，可以进一步提高黑盒攻击的可转移性，本文探究了提高攻击可转移性的训练方法，将我们方法的表现与几种已有方法进行了比较，能够在 ImageNet 上获得 94
PDF4 years ago