Feb, 2024

关于基于机器学习的拥塞预测器对有效且几乎不可察觉的扰动的鲁棒性和泛化能力

PDF
TL;DR在机器学习和电子计算机辅助设计流程中尤其是基于深度学习的方法的广泛应用引起了广泛的关注。然而，最近的研究表明神经网络对其输入的微小、精心选择的扰动（例如图像中的一个像素变化）通常具有脆弱性。本研究通过探索机器学习基础的 EDA 工具的拥塞预测等方面的鲁棒性来解决这一问题，并提出了一种新的不可察觉性概念，通过保证布局扰动不改变其全局路径来对其进行定义，并实现了对这些扰动的鲁棒性训练技术。结果表明，在整合神经网络机制进入 EDA 流程时，CAD 工程师需要谨慎以确保获得稳健且高质量的结果。
发现论文，激发创造
  • 语义分割和分类的自我纠正扰动

    本篇论文探究了卷积神经网络中的一种新行为：通过结构化扰动输入，预训练的 CNN 可以改善其预测性能，这种扰动被称为 Guided Perturbations。实验结果表明，这种方法可以提高现有方法在语义分割和场景标注任务上的性能，并且可以应用于 MNIST 和 CIFAR10 等数据集上的分类任务。

    Mar, 2017

  • 基于深度学习的压缩感知鲁棒性评估

    对比深度神经网络和传统的稀疏方法，本文分析了图像重建的鲁棒性，并发现深度神经网络方法比传统方法在保持稳健性的前提下，提供更高的重建质量。

    Feb, 2021

  • 城市交通拥堵预测的可扩展深度流量神经网络

    通过去中心化的深度学习方法，基于相邻车站的拥堵状态实时准确地预测每个车站的拥堵状况，避免了中央处理器的局限性并提升了系统的实时反馈能力和实用性。同时为了避免训练数据集的不平衡，引入了经过正则化的欧氏距离损失函数。通过北加利福尼亚交通数据建立新的数据集进行实验，成果表明该方法成功预测了交通拥堵。

    Mar, 2017

  • 深度神经网络对扰动的敏感性估计器

    深度神经网络对扰动的敏感性估计器的推导和测试，以及对两个卷积神经网络进行的随机扰动和对抗攻击的研究。

    Jul, 2023

  • IMPRESS: 评估扩散式生成人工智能中不可察觉扰动对未经授权的数据使用的韧性

    通过引入名为 IMPRESS 的扰动净化平台，我们评估了不易察觉的扰动作为一种保护措施的有效性，并提供了对几种现代保护方法的全面评估，同时可作为未来保护方法的评估平台。

    Oct, 2023

  • 理解和增强基于概念模型的鲁棒性

    本研究旨在研究基于概念模型的鲁棒性和输出一致性的表现，提出并分析了不同的恶意攻击方式，并提出了基于对抗训练的防御机制，探讨了它们对模型在系统性扰动下的鲁棒性，发现所提出的防御方法可以提高概念模型的鲁棒性。

    Nov, 2022

  • 深度神经网络分类器在乳腺癌筛查中的鲁棒性理解

    深度神经网络可用于乳腺癌筛查，但在应用时需要考虑输入扰动的鲁棒性，本文探究了针对自然图像的文献和针对乳腺 X 线摄影术图像的差异，通过测量受四种常见扰动影响的乳腺 X 线摄影术图像分类器的灵敏度，得出结论认为已有文献可供参考；本文同时提出了低通滤波的问题，这可能会影响乳腺癌的预测，因此，对于乳腺 X 线摄影术图像分类器来说，去除低通滤波对于诊断有利。

    Mar, 2020

  • 图像分类器的鲁棒性和不变性属性

    本文研究了深度神经网络在噪声环境中的鲁棒性和不变性，提出了快速计算稀疏对抗扰动和数据增强方法，与数据之间的特征联系起来，以实现更可靠的机器学习系统。

    Aug, 2022

  • 微扰神经网络

    本文介绍了一种名为扰动层的替代卷积层的模块，通过实验证明这种扰动层可以有效地替代传统的卷积层，在多个视觉数据集上与标准 CNNs 性能相当，且拥有更少的参数。

    Jun, 2018

  • 深度神经网络的敏感性分析

    本文提出了一种新的扰动流形及其关联的影响度量方法，通过该方法可以量化各种扰动对 DNN 分类器的影响，主要应用于四个模型构建任务：检测异常值、分析模型体系结构的敏感性、比较训练和测试集之间的网络敏感性以及定位易受攻击的区域。实验证明，该方法在 CIFAR10 和 MNIST 数据集上的 ResNet50 和 DenseNet121 模型中具有较好的性能。

    Jan, 2019