- 通过信息瓶颈约束提升对抗迁移性
基于信息瓶颈理论,我们提出了一种名为 IBTA 的黑盒可传递对抗攻击的新框架,利用不变特征的进展。通过在等效攻击性能约束下减少对原始数据的敌对扰动依赖性,鼓励更多地依赖对分类有最大贡献的不变特征,从而增强对抗攻击的传递性。通过重新定义基于 - Msmsfnet:一种用于边缘检测的多流和多尺度融合网络
本研究解决了计算机视觉中的边缘检测问题,并提出了一种新的网络架构 msmsfnet,通过从头训练确保公平比较,实验证明我们的模型在三个公开数据集中优于最先进的基于深度学习的边缘检测器。
- 对抗性样本汤:多个对抗性样本的平均改善了可转移性而不增加额外生成时间
通过细调超参数,生成不同的批次对抗性样本并取平均的方法可以提高对抗性迁移性,并且相比传统方法没有额外的生成时间和计算成本,与现有的基于迁移的方法相结合可以生成更具迁移性的对抗性样本,通过在 ImageNet 数据集上进行的大量实验表明,我们 - 小波包功率谱 Kullback-Leibler 散度:图像合成的新度量
我们提出一种新的基于频带的质量度量方法,改进了针对生成神经网络的现有指标,能够准确衡量频率信息,并通过 Broad Data Sets 对生成网络的质量进行验证,用户研究表明该方法与人类感知一致,同时频带指导能够提高当前生成网络的频域保真度 - 重新思考 Mixup 以提高对抗性可迁移性
提出了一种基于输入转换的新攻击称为 MIST,通过将输入图像与随机平移的图像进行随机混合,并分离每个混合图像的损失项的梯度来对抗不准确的梯度,通过在每个输入样本上计算多个混合图像的梯度,MIST 在 ImageNet 数据集上的实验证明在卷 - CHIP:对比度层次图像预训练
在有限的样本标注下,通过图像对目标对象进行少样本分类是一个任务。我们提出了一个一次性 / 少次分类模型,可以将任何未知类别的对象分类到一个相对通用的类别中,采用了基于层次对比损失的 ResNet152 分类器,基于图像嵌入所提取的特征对对象 - MM评估深度神经网络的对抗性鲁棒性的几何方法
我们提出了一种攻击依赖的度量指标,用于度量在特定输入上的深度神经网络的对抗鲁棒性,验证了该指标对不同对抗性攻击的有效性和泛化性,与以前的度量指标相比,我们的指标是高效且有效的。
- 利用多个加密修补嵌入阻碍对抗性攻击
我们提出了一种新的基于关键词的防御方法,注重效率和鲁棒性,在大型数据集如 ImageNet 上的有效训练非常困难。该防御方法通过效率训练和可选随机化的两个重要改进来构建,以一个或多个秘密的补丁嵌入和分类器头与预训练的各向同性网络相结合,实现 - 通过块置换和旋转增强对抗传递能力
通过观察已有的基于输入变换的攻击方法在不同模型上产生不同的关注热图,并发现破坏图像的内在关系可以扰乱原始图像的关注热图,我们提出了一种新的基于输入变换的攻击方法,称为块洗牌和旋转(BSR),通过将输入图像分成几个块,随机洗牌和旋转这些块来构 - CVPR异常检测中的表示学习:成功、限制和一个重大挑战
异常检测的主导范式在无限扩展上将面临基本限制,对于许多工业任务,当存在强任务先验时,可以克服这些限制;但当不存在这样的先验时,异常检测变得更加困难,因此我们提出了两个异常检测的重大挑战:i)通过异常检测来进行科学发现;ii)在 ImageN - 深度持续学习中的可塑性维护
本文研究了深度学习系统在持续学习环境下的表现,发现其容易出现失去可塑性现象,影响其对新数据的适应能力,但通过 L2 正则化和重启动某些不常用单元的连续反向传播算法,可以缓解和避免这种现象。
- 双重稳健自学习
本研究介绍了一种名为双重稳健自训练的算法,利用未标记的数据生成伪标签,与少量的标记数据相结合进行训练,以解决半监督学习问题。经实验证明,该算法优于标准的自训练基线,且在 ImageNet 数据集上表现出色。
- Vision Transformer 的补丁混合精度量化
本文提出了一种基于 patch 的混合精度量化方法,用于 ViTs 神经网络的高效推理,通过引入轻量级全局度量并采用帕累托前沿法自动分配最佳的位精度来减少搜索成本。实验证明这种方法大大减少了搜索成本,使混合精度量化应用于 ViTs 变得容易 - 提高对抗性迁移性的高级特征多样化
本文提出了一种基于高级特征的随机变换方法,用于提高深度神经网络的对抗性攻击可迁移性, 在 ImageNet 数据集上的实验结果表明,该方法可以有效地改善现有基于动量的攻击的可迁移性,并在攻击多个防御模型时优于基线。
- 关于改变神经网络感知的研究
该研究提出了一种可调整人工神经网络感知特定人工定义概念的方法来理解和调试该神经网络模型,并在合成数据集和 ImageNet 数据集上对其进行了测试。
- 现实中的深度学习可能不容易适应
研究表明温和过拟合现象对过度参数深度学习模型的成功提供了深刻见解。本文探讨了现实世界中的温和过拟合现象,并发现对于在 ImageNet 数据集上训练 ResNet 模型等任务,模型不会温和拟合。在这个较轻的过参数化设置下,我们的分析确定了一 - 图像空间中的稀疏视觉对抗解释
通过我们的新型扰动模型和自动 Frank-Wolfe 方案的高效优化,可以生成稀疏的视觉对抗解释,用以检测 ImageNet 分类器中的假特征。
- 去中心化深度学习的本地异步随机梯度下降
本文主要介绍分布式深度神经网络训练算法的通信拓扑设计选择及异步去中心化算法如何通过 LASGD 实现模型同步,实验证明 LASGD 相较于 SGD 及业界领先的基于八卦协议的算法加速了大规模图像分类数据集 ImageNet 的训练速度。
- 通过探索归纳偏见推动图像识别及更广泛领域的视觉 Transformer 进化 (ViTAEv2)
本文提出了一种利用先验卷积 IB(intrinsic bias)的 Vision transformer 架构(ViTAE)来解决长程依赖建模中存在的局限性,并在 ImageNet 及其他数据集上进行了实验证明其在图像分类任务上的优越性。
- ICLR无参数层学习特征
该论文探讨采用内置无参操作替换空间操作的网络架构的有效性,实验结果表明,这种架构可以在不牺牲模型精度的情况下进一步提高网络速度和效率,尤其适用于 ImageNet 数据集。