- MM修复深度神经网络的问题需要更好的训练数据和学习算法
DNNs 对生物视觉的模拟能力不佳,因其依靠与人类截然不同的策略实现与人类准确度相匹敌的结果。随着 DNNs 规模的增大与准确度的提高,这一问题变得更加严重。本研究提出了一种可靠地模拟生物视觉的 DNN 构建方法。
- 多层次深度学习对偏微分方程的应用:以 Burgers 方程为例
本论文提出了一种多级深度学习方法来解决非线性偏微分方程(PDEs),该方法能够高效地学习方程的解,并且在预测准确性上优于现有的单级深度学习方法
- LEAP: 自然语言处理软件的高效自动化测试方法
该研究提出了一种自动化测试方法 LEAP,基于 Levy 飞行和粒子群优化,结合文本特征生成对抗性测试用例,实验证明 LEAP 在生成对抗性测试用例的平均成功率为 79.1%,比其他方法高出 6.1%,并显著减少了时间开销。此外,实验结果表 - ICCV稀疏线性概念发现模型
通过对比性语言图像模型和单一稀疏线性层,我们提出了一个简单而直观的可解释框架,通过基于贝叶斯推理的数据驱动伯努利分布来实现框架中的稀疏性,相比相关方法,在准确性和每个样本概念稀疏性方面均表现出色,为新概念的个体研究提供便利。
- VALERIE22 - 城市环境的高保真度、丰富元数据注释的数据集
VALERIE 工具流水线是一个合成数据生成器,用于研究特定领域因素对深度神经网络的感知性能的影响,通过提供基于自动生成的场景的光线追踪传感器模拟,VALERIE22 数据集具有丰富的元数据,允许对数据进行多样化测试和研究,并且在性能度量上 - 基于摄像头的智能系统的物理对抗攻击:当前趋势、分类、应用、研究挑战和未来展望
本文全面调查了当前关注的物理对抗攻击趋势,详细解析物理对抗攻击的概念、特征和要求,探索其在不同应用中的目标任务下,包括分类、检测、人脸识别、语义分割和深度估计等,各种物理对抗攻击方法,并评估其有效性、隐蔽性和鲁棒性,讨论了当前挑战和未来研究 - G-Mix: 通向扁平极小值的广义 Mixup 学习框架
深度神经网络(DNN)面临着超参数化的挑战,特别是在训练数据有限的情况下。为了增强 DNN 的泛化能力,我们提出了一种名为 Generalized-Mixup 的新学习框架,将 Mixup 和 Sharpness-Aware Minimiz - AAAI使用反事实法评估深度神经网络的系统性弱点
通过反事实解释的方法,提出一种有效且计算成本低的算法,以验证现有子集的语义归因,即检查已识别的属性是否可能导致性能下降。在自动驾驶领域的一个示例中展示了该方法,通过高度注释的模拟数据,表明在语义分割模型中存在不同的行人资源的性能差异,但只有 - PLiNIO:面向复杂感知神经网络优化的用户友好梯度方法库
本文旨在通过实验在多种边缘任务中展示 PLiNIO 的各种优化方法在准确性和模型大小方面较基线架构具有显著优势,最多可以实现 94.34% 的内存缩减且准确率下降不超过 1%。
- 通过选择性同步加速分布式机器学习训练
本文提出了一种名为 SelSync 的低开销方法,用于 DNN 训练,该方法具有动态选择通信与否的功能,可提高收敛性,比 BSP 技术减少训练时间高达 14 倍。
- 从替代训练中理解对抗可迁移性
通过对拟合平滑度和梯度相似度进行权衡,我们揭示了对抗传递的调节机制,发现数据分布移位导致的梯度相似度降级说明了拟合平滑度与梯度相似度之间的贸易协定,并提出了一种更好的替代品构建方法,旨在优化拟合平滑度和梯度相似度,通过数据增强、梯度正则化等 - 深度神经网络实际应用中的高效后门攻击
本文提出了一种新的方法应对数据受限的后门攻击,使用预训练的 CLIP 模型并引入了基于 “干净特征抑制” 和 “污染特征增强” 两大技术来有效地操纵模型的行为,实验表明该方法可显着提高攻击成功率。
- 学习特征中的瓶颈结构:低维度与规则性的权衡
该研究旨在证明具有大深度和 L2 正则化的 DNN 在学习输入时会产生 “瓶颈结构”(低维表示),并介绍了一种衡量网络内在维度和复杂性 / 不规则性之间平衡的方法。
- 优化合适的损失函数何时会产生校准效果?
本研究通过提出一种局部最优条件,替换全局最优性来回答在受限的预测器族中优化适当的损失函数是否会产生校准模型及其准确的校准保证。通过表明具有此局部最优性的任何预测器都满足平滑校准,此研究也对解释为什么深度神经网络仅通过适当的损失函数最小化就能 - 产品量化及其硬件加速
本文研究了在 DNNs 中将传统的 MAC 操作替换为使用 product quantization 时的计算和内存占用情况,采用不同的 PQ 设置和训练方法,设计了第一个定制的硬件加速器来评估运行 PQ 模型的速度和效率,发现与高度优化的 - 自监督学习用于预训练 3D 点云:综述
本研究综述了使用深度神经网络实现无监督点云表示学习的方法,解决在人工标注数据量有限的问题。研究挖掘了常用数据集和评估指标,提出了基于这些技术的自监督点云表示学习方法的广泛应用,并指出未来可能面临的挑战和潜在问题。
- 不均衡标签样本分布下的时尚检测数据高效训练
本文介绍了一种基于深度神经网络的加权目标函数方法,用于解决电子商务中多标签分类模型数据分布不平衡的问题,并以时尚属性检测为例进行了实验,结果表明相比于非加权和逆频率加权机制,采用新的加权机制的表现更好,同时验证了该方法在当今时尚业常见属性检 - 深度知识产权:一项调查
本文综述了深度知识产权保护的最新进展,包括挑战 / 威胁,水印技术,指纹技术,评估指标和性能等方面,并为未来的研究提出了有希望的方向。
- 基于模拟退火的 DNN 加速器循环顺序调度器 SALSA
本研究提出了一种名为 SALSA 的快速双引擎调度程序,以支持 DNNs 的最优执行时间,并结合模拟退火的策略解决了循环排序设计空间大小的动态性问题。SALSA 在 5 种不同的 DNN 上与两个 SotA 调度器 LOMA 和 Timel - 深度神经网络架构保全的可证修复
本文提出了一种基于 V-polytope 的可证明修复方法,该方法可以在不修改架构的情况下修改深度神经网络(DNN)的参数,支持多层修复,运行时间复杂度为多项式级别。使用 MNIST,ImageNet 和 ACAS Xu DNNs 测试显示