- AutoQNN: 一种自动量化神经网络的端到端框架
本文提出一种名为 AutoQNN 的端到端框架,通过引入量化方案搜索(QSS)、量化精度学习(QPL)和量化架构生成(QAG)三种技术,自动实现对不同深度神经网络(DNN)模型的不同层进行不同方案和不同精度的量化,无需人工干预,实现对深度神 - CVPRCFA:类别校准的公平对抗训练
本文探讨了在保证深度神经网络(DNNs)在整体上具有抗对抗性的前提下,如何提高每个类别的对抗鲁棒性和公平性,提出了一种基于类别的校准的公平对抗训练框架,命名为 CFA,实验证明该方法显著提高了对抗鲁棒性和公平性。
- DeepAxe:一种用于探索 DNN 加速器中近似和可靠性权衡的框架
本文提出了一个基于 FPGA 的 DNN 加速器设计框架 DeepAxe, 考虑了准确性、可靠性和硬件性能之间的平衡,通过功能逼近来减少硬件平台的计算负担,为目标资源利用要求提供了一组 Pareto 最优的 DNN 实现设计空间点。
- 基于深度神经网络的预算受限模型构建方法在大数据分析中的应用
本文提出了利用深度神经网络的方法来删除数据分析中的不太重要的特征,以在给定预算内开发适合的受预算限制的模型。
- 梦境中显现的领域泛化
通过一种名为 Stylized Dream 的新型基于优化的数据增强方法来减少模型的贴图偏差,实现基于形状的表示学习,从而取得了出类拔萃的跨领域问题性能的最新成果。
- Zeus: 深度学习训练的 GPU 能源消耗理解与优化
本文提出了一种名为 Zeus 的优化框架,它可以自动找到适合于经常出现的深度神经网络训练任务的最佳作业和 GPU 级别配置,从而在考虑到能源消耗和性能优化之间的权衡时,可以提高 DNN 训练的能源效率达到 15.3% 至 75.8%。
- Aries:通过无标签准确度估计实现深度神经网络的高效测试
文章提出一种名为 Aries 的新技术,通过模型对原测试数据的信息,估算出 DNN 模型在新未标记数据上的表现,避免了给大量数据标记的人力成本,通过在 CIFAR-10 和 Tiny-ImageNet 数据集上进行大规模评估,发现 Arie - ECCV水印疫苗:防止水印去除的对抗性攻击
利用对抗机器学习策略,针对盲水印网络提出 Watermark Vaccine 技术,包括破坏型和不可删除型两种疫苗,可以有效防止各种水印清除算法的攻击。
- 使用斯塔克贝格博弈实现对抗深度学习的最佳对抗准确性
该论文使用博弈论和 stackelberg 均衡的概念,以串行博弈的形式来研究实际情况下 DNN 分类器的最优鲁棒性和最优对抗样本问题,探讨了分类器的鲁棒性和准确性之间的平衡问题。
- 基于图同构的性能预测器架构增强
本文提出了一种名为 GIAug 的有效的 DNN 架构扩增方法,它可以通过基于图同构的机制,非常高效地生成单一架构上多元化的注释架构,并将其编码成适合于大多数预测模型的形式,从而非常灵活地利用各种现有的基于性能预测的 NAS 算法,并且在 - 通过负相关模型集成来防御对抗样本
该论文提出一个名为 NCEn 的新的集成防御方法,通过将每个成员的梯度方向和梯度幅度负相关地引入,同时减少它们之间对抗性示例的可传递性,以提高集合的对抗鲁棒性。
- L2 正则化 DNN 中的特征学习:吸引 / 排斥和稀疏性
本研究探讨使用 $L_{2}$ 正则化的 DNNs 的损失曲面,并证明了通过特征学习来实现最优隐藏表示,以及如何通过隐藏表示的协方差来证明 $N (N+1)$ 神经元的局部最小值,并且在传统设置中远不需要 $N^{2}$ 神经元即可达到最小 - 通过多项式实现可扩展的可解释性
提出了一种新的分类 GAMs 的方法,称为 Scalable Polynomial Additive Models (SPAM),通过多项式的张量秩分解来实现高阶特征交互,同时保证模型的可解释性和易扩展性,大幅度地优于现有的可解释方案,并在 - DELMAR: 人脑深度线性矩阵近似重构提取分层功能连接性
提出了一种新的深度矩阵分解技术 DELMAR,用于分析人脑功能连接的层次关系,可以自动估计超参数,采用矩阵反向传播减少累积误差,并引入正交投影来更新所有变量,实验证明其能够比其他同类方法更快、更准确地识别 fMRI 信号中的空间特征,并能收 - IJCAI自动从 AI 程序中学习反向 DNN
NNReverse 是首个能够在没有先验领域知识的情况下,通过学习方法从 AI 程序中反向推断 DNN 的二进制代码,进而评估其泄漏风险的工具。
- 基于概念学习的类别激活映射
本文提出了 Conceptor-CAM 模型解决传统方法只模型对比关系和缺乏 intra-channel relation 的问题,并验证了在多项测试上实验结果均超过现有方法。
- 对抗鲁棒性的统一博弈理论解释
提供了一个统一的观点来解释不同的对抗性攻击和防御方法,即 DNNs 输入变量之间的多阶交互视图。基于多阶交互,我们发现对抗性攻击主要影响高阶交互来愚弄 DNN。此外,我们发现对抗性训练的 DNN 的鲁棒性来自类别特定的低阶交互。我们的发现提 - ICMLAuto-NBA:网络、位宽和加速器联合空间的高效搜索
通过 Auto-NBA 框架,我们能够有效地在巨大的联合设计空间中为每个目标数据集和加速器规范定位最佳设计,使用异构采样策略实现无偏搜索,以及配备通用可微加速器搜索引擎的新兼搜寻流程。Auto-NBA 生成的网络和加速器在搜索时间、任务准确 - 早期退出网络的自适应推断:设计、挑战与方向
该研究论文介绍了早期退出网络的设计方法和最新进展,比较了与其他高效推理解决方案的优劣,并提出了未来研究的挑战和方向。
- 基于统计对齐的特征空间目标攻击
通过引入高阶统计量,我们设计了两种新的算法来实现统计导向的对抗样本生成,相比于当前主流的方法,在中等难度下能够取得更好的攻击性能。