Jun, 2023

使用预算感知的黑盒逼近技术清理文档图像

PDF
TL;DR本文提出了两种样本选择算法，利用少于原系统 OCR 引擎查询 10% 的数据在不影响系统性能的情况下降低 OCR 预处理器的训练时间，并提出了简单的排名技术以从训练数据集中修剪 30% 的文档图像。
differentiable bypassocr preprocessorzeroth-order optimizationsample selection algorithmsdocument images
发现论文，激发创造
  • AutoZOOM：基于自编码器的零阶优化攻击黑盒神经网络方法

    该研究提出 AutoZOOM 框架，通过自动编码器和自适应梯度估计策略，在保持攻击成功率和视觉质量的同时，显著减少了黑盒攻击中模型查询的数量，从而在对抗性稳健性方面提供了新的见解。

    May, 2018

  • ZOO: 无需训练替代模型的基于零阶优化的黑盒攻击深度神经网络

    本文提出了零阶优化的黑盒攻击方法，该方法不需要训练替代模型而直接估计目标 DNN 的梯度来生成对抗性例子，实验结果表明该攻击方法在 MNIST、CIFAR10 和 ImageNet 的数据集上与白盒攻击方法效果相当且明显优于现有的替代模型的黑盒攻击方法。

    Aug, 2017

  • 简单黑盒对抗攻击

    本文介绍了一个基于连续数值置信度分数的、高效构建黑盒中敌对图像的简单迭代算法，并且该算法同样适用于有目标和无目标攻击。作者使用少于 20 行的 PyTorch 代码在 Google Cloud Vision API 中展示了该算法的高效和有效性。

    May, 2019

  • 高效组合优化的简约黑盒对抗攻击

    本文提出了一种离散替代方法来解决黑匣子攻击的问题，该方法可以在不需要估计导数的情况下有效地攻击神经网络，降低了之前所提出方法所需的查询次数。

    May, 2019

  • 如何提高黑盒机器学习模型的鲁棒性？零阶优化视角

    本文提出了一种针对黑盒模型的防御式操作，通过基于降噪平滑和零阶优化的方法，将自编码器与模型结合，并在此基础上设计了 ZO-AE-DS，该方法在图像分类和重建任务上表现出更好的准确性、可靠性和查询复杂度。

    Mar, 2022

  • 多源噪声模拟与难例挖掘用于文本分类的鲁棒性学习

    本研究提出了一种新的训练框架，通过直接模拟自然 OCR 噪声并从大量的模拟样本中迭代挖掘难样本来提高模型性能，实验表明该框架大大提高了预训练模型的鲁棒性，可以在实际场景下极大地促进 NLP 模型的应用。

    Jul, 2021

  • 神经网络梯度学习黑盒函数接口

    提出了一种基于端到端训练的神经网络的方法，该方法通过将黑盒函数的功能与可微分的神经网络进行逼近，以驱动神经网络遵守黑盒函数接口。在推理时，将不可微分的外部黑盒替换为其可微分的估计器，通过此方法，可以在无需中间标签的情况下，训练一个神经网络，从而计算黑盒功能的输入，并且这种综合模型比完全可微分的模型泛化效果更好，并且相对于基于强化学习的方法学习效率更高。

    Jan, 2019

  • 隐形威胁：OCR 系统中的后门攻击

    提出一种光学字符识别 OCR 后门攻击，通过插入非可读字符的恶意输入图像，使 OCR 模型在某些实例中输出非可读字符，同时不影响其在其他实例中的性能。

    Oct, 2023

  • 一种查询效率高的硬标签黑盒攻击：基于优化的方法

    本文提出一种用于攻击离散和非连续的机器学习模型的新方法，将难标记黑盒攻击转化为实值优化问题，并且在 MNIST，CIFAR 和 ImageNet 数据集上展示出比现有方法更优异的表现。

    Jul, 2018

  • 高效率黑盒对抗样本查询（已被取代）

    本文提出了一种新的方法，利用自然进化策略在黑盒攻击下生成可靠的对抗样本，并通过新的算法在部分信息下进行有针对性的攻击，无需使用梯度，可以使用少量的请求操作，成功地对商业部署的机器学习系统进行了第一次有针对性的攻击。

    Dec, 2017