- 具有 ReLU、leaky ReLU 和 softplus 激活函数的深度神经网络在半线性偏微分方程空时解中可被证明地克服维数灾难
使用深度学习方法中的深度神经网络（DNN）和修正线性单元（ReLU）、渗漏线性单元（leaky ReLU）或软正单元（softplus）激活函数，可以在无维数的空间 - 时间区域中以 Lp 意义逼近具有 Lipschitz 连续非线性性质的 - 从算法到硬件：深度神经网络高效安全部署综述
深度神经网络（DNNs）在许多人工智能（AI）任务中被广泛使用，为了解决其部署带来的巨大的内存、能量和计算成本挑战，研究人员开发了各种模型压缩技术，最近还有越来越多的研究关注定制化 DNN 硬件加速器以更好地利用模型压缩技术，此外，保护安全 - 基于表格数据的联邦学习基准测试：比较基于树模型和神经网络的方法
本研究对水平联邦学习中的树模型和深度神经网络进行了对比，结果显示当前联邦增强的树模型在不同数据分区下表现优于联邦深度神经网络，并且联邦 XGBoost 模型表现最佳。此外，即使增加客户端数量，联邦树模型的性能仍优于联邦参数化模型。
- 一种可配置和高效的神经网络硬件加速器内存层次结构
我们提出了一个可配置的内存层次结构框架，旨在为深度神经网络 (DNNs) 的自适应内存访问模式提供数据，并在最小化所需内存容量的同时维持高加速器性能方面达到优化平衡。
- 探索使用近似乘法器增强神经网络对抗攻击的鲁棒性
使用近似乘法器探索深度神经网络针对对抗攻击的鲁棒性改善，将准确的乘法器替换为近似乘法器在 DNN 层模型中，探索了 DNN 在可行时间内针对各种对抗攻击的鲁棒性，结果显示在无攻击情况下由于近似乘法产生了最高 7% 的准确度下降，而在攻击时， - 基于深度强化学习的深度神经网络多租户多加速器系统的在线调度策略
当前，云服务外包 DNNs 的趋势日益增长。本文介绍了一种针对多租户环境中 DNNs 在线调度的低开销深度强化学习算法 RELMAS，考虑了加速器的数据流异构性和内存带宽竞争问题，提高了服务提供商的硬件利用率并优化了服务水平协议满意率。在包 - 深度知识：基于泛化的深度学习测试
通过 DeepKnowledge 系统测试方法，可以评估 DNN 的可靠性和泛化能力，并通过提供测量信息和检查测试集的传输知识容量来改善 DNN 的稳健性。
- 量化 DNN 时代的魔法
本文提出了一种量化感知训练的方法，通过引入一种独立于小批量大小的新型规范化（Layer-Batch Normalization）和标准化权重的缩放环夹函数对权重进行量化，同时对激活函数使用同样的函数进行量化，并应用替代梯度来训练模型，实验证 - 基于生成的替代模型的黑盒攻击方法
基于代理的黑盒攻击暴露了深度神经网络的高易受攻击性。我们提出了一种生成代理方法，它学习了与目标决策边界相接近的样本的分布，并可以用于制造在其他类别中属于原始样本但几乎不可察觉的对抗性样本。在各种目标和数据集上，该生成方法导致攻击具有明显高的 - 朝向视觉语法理解
通过改变自然图像的句法（例如交换一个脸部的眼睛和鼻子）来调查深度神经网络对此类句法异常的敏感性，并提出了一个三阶段框架来实现深度神经网络的视觉句法理解。通过使用类似于 BERT 的图像掩蔽自编码器进行训练，我们在 CelebA 和 AFHQ - ICLR路径选择对于路径方法的清晰归因至关重要
深度神经网络的解释性和清晰度对于产生人类信任感都至关重要。本研究提出了一种集中分配高度解释性到不可或缺特征的新原则，并通过构建 SAMP 模型解释器来有效地搜索最优路径。视觉展示表明，SAMP 能够通过定位显著的图像像素来精确揭示深度神经网 - 通过学习限制性对敌多面体提高对抗攻击鲁棒性
通过限制对干净样本添加范数约束的微小扰动后得到的输出可达集合，我们旨在训练出对抗攻击具有强鲁棒性的深度神经网络。我们称这个集合为对抗多面体，每个干净样本都对应一个对抗多面体。实际上，如果所有样本对应的多面体都是紧凑的，并且不与深度神经网络的 - FlowMur：一种具有有限知识的隐蔽实用音频后门攻击
提出了一种名为 FlowMur 的隐蔽和实用的音频后门攻击方法，通过构建辅助数据集和代理模型，并优化触发器生成和数据污染过程，增强隐蔽性并提高攻击性能，从而成功实施了高效且难以被检测的后门攻击。
- OCGEC: 基于图嵌入的一类分类方法用于深度神经网络后门检测
本研究提出了一种称为 OCGEC 的新型单一类别分类框架，使用少量的清洁数据和基于图神经网络（GNNs）的模型级后门检测来检测后门攻击。与其他基线相比，在许多任务上，我们的 OCGEC 方法实现了超过 98％的 AUC 分数，大大超过现有的 - 为减少 DNN 加速器的片外数据访问而结合调度、内存分配和张量替换
通过一个名为 COSMA 的优化框架，我们能够在专用硬件加速器上为 DNNs 找到最佳的操作调度、内存分配和张量替换方式，从而最小化额外数据访问，同时通过分而治之的启发式方法可以将复杂 DNNs 的数据访问降低 85% 以上。
- DLAS：深度学习加速器方案的探索与评估
深度神经网络的加速和优化在资源有限的设备上是具有挑战性的，这篇论文结合了机器学习和系统技术，在 Deep Learning Acceleration Stack (DLAS) 中演示了如何通过整合不同层面的改进技术来提高加速效果，并强调了由 - AGNES: 深度神经网络安全的抽象引导框架
本文介绍了 AGNES，一种用于检测图像识别中深度神经网络（DNNs）中后门的工具，并展示了我们的工具在多个相关案例研究中比许多最先进的方法表现更好。
- 自然鲁棒性动态批归一化统计更新
采用傅里叶域检测损坏类型和更新 BatchNorm 统计信息的统一框架，可提高任何现成模型的损坏准确性，并进一步改善先进的稳健模型的准确性。
- 深度视觉特征的神经元解释破坏
通过统一的流程对神经元解释方法进行了首次的鲁棒性分析，揭示在探测数据中添加随机噪声和设计良好的干扰可以显著破坏这些解释，引发对神经元解释方法在现实应用中的安全和公平性的关切。
- VDC：通过视觉 - 语言不一致性检测脏数据样本的多功能数据清洗器
通过使用多模态的大型语言模型，本研究提出了一种名为 VDC 的多功能数据清洗器，用于检测数据集中的污染样本，特别关注图像和相关标签之间的语义不一致性，实验证明其在各种类型的污染样本上具有卓越的性能和推广能力。