- 环境临近目标培训的意想不到的收获
通过添加可量化的参数噪声到训练的转移函数中,在新的环境中评估增强学习代理的推广能力。我们展示了在 60 个不同的 ATARI 游戏变体中,包括 PacMan、Pong 和 Breakout,通过在替代的噪声设置下训练代理能获得较好的结果。
- 噪声注入对动态灰盒模型创建的益处
通过噪声注入来减少建模误差,并提高灰盒模型在设备模拟器开发中的性能。
- 超越随机噪声:来自潜在赌博研究的匿名化策略见解
在学习场景中,本研究探讨了隐私问题,用户共享知识用于推荐任务。通过使用潜在强盗设置评估隐私与推荐性能之间的权衡,并采用各种聚合策略,如平均、最近邻和噪声注入,本研究对于个性化隐私技术提供了有针对性的研究,以解决特定攻击模式,而不是依赖一种适 - 卷积神经网络训练中的数据增强:对图像注入噪声
本研究分析了不同噪声模型及其强度对卷积神经网络的影响,通过结构相似度(SSIM)度量给出相同大小的噪声模型来进行比较,提出了一些新的启发式策略和建议,可以优化图像分类的最优学习过程。
- ICML噪音对神经网络校准和推广的影响
本研究探索了噪声注入与数据增强策略在改善神经网络鲁棒性和泛化能力方面的影响,通过评估各种注入噪声策略在分布内和分布外情况下对模型校准和泛化能力的影响,发现激活噪声可以有效改善模型的泛化能力,而输入数据增强噪声则可以显著提高模型在分布外的校准 - 增强学习的简单噪声环境增强
本文介绍了针对强化学习 (RL) 的数据增强技术,旨在提高 RL 算法在不同环境下的表现效果,包括引入噪声、探索状态空间和改善训练数据的多样性。作者提出了两种新的增强技术,并在三种常用的 RL 算法和五个 MuJoCo 环境中进行实验研究, - 一种带泊松子抽样的集成师生学习方法,用于差分隐私保护语音识别
提出了一种使用泊松子采样的集成学习框架,有效地训练一组教师模型以针对训练数据发出一些不同隐私保护(DP)保证。通过在 DP 下 Boosting,从训练数据中派生的学生模型遭受的模型退化很少,可以从无隐私保护的模型中进行训练。
- 一种使用正则化马氏距离的差分隐私文本扰动方法
本文提出了一种用于文本扰动的新机制,它基于 Mahalanobis 度量的正则化变体,旨在平衡隐私和效用之间的权衡,以提高文本分析的隐私性。
- CVPR通过结构化噪声注入实现图像分离生成
通过多个噪声编码与全连接层进行注入噪声的设计选择,实现了对生成对抗网络(GANs)的潜在空间进行解缠纷的目标,并达到更好的解缠纷分数,同时实现了对生成图像的空间解缠纷、尺度空间解缠纷和前景对象与背景样式的解缠纷,从而实现了对生成图像的精细控 - 无监督域自适应中的生成式伪标签精炼
利用条件生成式对抗网络 (cGANs) 对其条件标签中的噪声天然具有的鲁棒性,研究并刻画了其主题和研究领域,并在无监督域适应 (UDA) 中利用这一特性。在这种情况下,一个经过训练的分类器可以用于推断出未标记的目标集上的伪标签。我们展示了 - 最大均值差异梯度流
本文构建了最大均值差异(MMD)的 Wasserstein 梯度流并研究了其收敛性质,提出了一个基于梯度注入噪声的方法进行正则化,并给出了其理论和实证证据。该流的实现很简单,因为 MMD 及其梯度均具有简单的封闭形式表达式,可通过样本轻松估 - MM将物理学应用到深度学习 —— 以 4D 地震压力饱和度反演为例
介绍了在神经网络体系结构中包含物理信息作为先验信息,并在训练时进行噪声注入以成功地将网络从合成数据转移到现场数据的示例。
- 神经网络量化的噪声注入和夹紧估计(NICE)
本文提出了一种通过噪声注入和学习夹紧来训练量化神经网络的方法,可显著加速卷积神经网络在 FPGA 上的运行速度,同时提高其准确性。
- NIPS通过噪声使深度神经网络规则化:解释和优化
通过多次噪声注入来提高泛化性能使得深度神经网络可以更好地防止过拟合,本文提出了一种使用随机梯度下降迭代中每个训练样本的多个噪声样本来实现更紧密下界的技术,并在几个计算机视觉应用中展示了其优越性。
- 嘈杂的激活函数
通过注入适当的噪声来解决神经网络中激活函数饱和行为带来的训练困难,并实现优化过程的探索边缘及难优化目标的最优解。
- ICLR变分自编码框架中的去噪准则
本文研究了对输入和隐层同时进行噪声注入的变分自编码器,提出了一种改进的目标函数。当输入数据有噪声时,传统的变分自编码器的训练方法不可行,这里提出了一种可行的训练方法。实验结果表明,在 MNIST 和 Frey Face 数据集上,提出的去噪 - 自动编码器和深度网络中的噪声分析
自动编码器是无监督学习内部表示的有用框架,本研究将现有的去噪自动编码器扩展到在非线性函数和隐藏单元激活之前注入噪音,提供一种统一的策略来通过设计注入噪声的性质来开发新的内部表示,并表明通过罕见的、去相关、和信息分散的噪声,在深度网络中改善性