- 具备光谱归一化联合能量的多标签离群检测
通过应用能量函数的理论概念和谱归一化方法,本研究提出了一种名为 SNoJoE 的能量函数,用于多标签异常检测任务,实验结果表明相对于先前方法,SNoJoE 在异常检测方面取得了显著改进,定义了该研究领域的新的最佳方法。
- 安全强化学习中的政策分叉
我们的研究首次发现安全强化学习中的策略分叉现象,并运用拓扑分析严格证明了其存在。为了训练这种分叉策略,我们提出了一种名为多模态策略优化(MUPO)的安全强化学习算法,该算法利用高斯混合模型分布作为策略输出,成功实现了对分叉策略的学习,并确保 - 基于贝叶斯方法的交通预测模型的不确定性评估和泛化能力改善
该研究提出了一种基于贝叶斯循环神经网络和谱归一化的交通预测模型框架,能够提供不确定性估计和更好地适应不同数据集的环境,从而在交通数据预测任务中提高了准确性。
- 图像风格转换的谱归一化双对比正则化
本文提出了一种基于双重对比规范化和谱归一化的新型无配对图像翻译框架(SN-DCR),以保持全局结构和纹理的一致性,提高生成图像的全局结构和纹理信息,并证明该方法在多个任务上实现了 SOTA。
- 多智能体强化学习中的谱归一化效应
本论文探讨了如何在多智能体稀疏奖励场景下学习可靠的评论家,在此基础上研究了如何通过使用谱归一化技术对评论家进行规范化处理,提高对于即使在此复杂的 SMAC 和 RWARE 领域中都能够更加稳定学习的能力。
- ABCAS: 自适应边界控制谱范数作为自动稳定器
本文提出一种名为 ABCAS 的自适应正则化方法,根据真实数据和仿冒数据之间的距离确定判别器的 Lipschitz 常数,从而提高生成对抗网络的训练稳定性并获得更好的生成图像的 Fréchet Inception Distance 得分。同 - 机器语音识别的盲信号去混响技术
本文介绍一种从混响环境中获取一定数量的训练音频数据,并利用这些数据以及其他可用非混响音频数据来消除混响噪声的方法。利用长时间窗口计算傅里叶变换,将房间产生的卷积转换为频率域的加法,并通过采集混响和干净音频数据的统计信息计算出一种用于规范化音 - AAAIGAN 的稀疏感知归一化
本文提出了一种新的归一化方法(SAN),并通过大量实验证明,与现有的方法相比,SAN 能够在 GAN 的训练中取得更好的效果。SAN 考虑了稀疏性,并且在 ReLU 激活的卷积网络中特别有效,并且在图像到图像翻译任务中表现出更好的性能,并且 - 深度确定性不确定性:一个简单的基线
本研究提出了一种概念简单的基线模型,即通过残差连接和谱归一化构建特征空间后,利用高斯判别分析对 softmax 神经网络的预测原型进行后处理,从而达到准确预测深度神经网络中的不确定性的目的,这种 Deep Deterministic Unc - EMNLP通过谱归一化身份先验对 Transformer 模型中的冗余映射进行修剪
本文介绍了一种基于 SNIP 的结构化剪枝方法,通过对 Transformer 模型中的整个残差模块进行惩罚,识别并丢弃不重要的非线性映射,并引入谱归一化来稳定 Transformer 层的后激活值分布以进一步改善剪枝效果。实验结果表明,S - IJCAI关于在 GANs 中高效、无偏的实现 Lipschitz 连续性
本文提出一种新的方法代替传统的梯度惩罚法和谱标准化法,通过实验证明该方法可以取得成功的训练稳定性和样本质量。
- ICLR关于具有谱控制的 GAN 的计算和泛化
通过引入新的重新参数化方法和对权重矩阵的光谱进行控制,使生成对抗网络在图像生成方面取得了更好的表现。
- 通过谱归一化来实现可推广性对抗性训练
本研究旨在通过使用谱规范化方法,为深度神经网络在对抗性环境下的训练提供一种有效的正则化策略,以解决其在输入微小的对抗性扰动下缺乏鲁棒性的问题。同时,我们将边界损失延伸到对抗性环境,并限制了多个梯度攻击方案下深度神经网络的泛化误差。
- 自注意力生成对抗网络
本文介绍了一种基于自注意力机制的生成对抗网络(SAGAN),它能够在图像生成任务中实现关注驱动的远距离依赖关系建模,并通过对 GAN 生成器实施谱归一化技术,取得了对图像生成任务来说最好的表现。
- ICLR生成对抗网络的谱归一化
本文提出一种名为谱归一化的新颖权重归一化技术,用于稳定生成对抗网络的鉴别器训练。该方法计算轻便,易于应用于现有的实现,并通过在 CIFAR10、STL-10 和 ILSVRC2012 数据集上的实验验证了其有效性,确认谱归一化 GANs 能