Jan, 2024

FIMBA: 通过特征重要性对抗攻击评估基因组学 AI 的鲁棒性

PDF
TL;DRAI 在生物技术应用和基因组测序中的持续增长以及广泛采用影响到药物发现和临床结果等重要决策流的 AI 模型的脆弱性，本文展示了将重点放在输入转换上的攻击通过模仿真实数据和混淆模型决策，最终导致模型性能显著恶化；此外，通过使用基于变分自动编码器的模型生成有毒数据来增强我们的方法，实证发现明确证明了模型性能的下降，准确性降低，假阳性和假阴性增加；此外，我们通过频谱分析分析得出了对抗样本的结论，为防御此类攻击提供了方法。
aibio-technical applicationsgenomics sequencingai modelsadversarial samples
发现论文，激发创造
  • 金融风险鲁棒分类

    使用领域特定的原始对抗攻击以及文献记录的对抗攻击，我们使用贷款等级分类问题来探讨机器学习模型对用户报告数据中微小变化的敏感性，并使用强健优化算法来构建金融服务的模型对扰动有抗分类误差的能力，这是金融服务深度学习中对抗攻击和防御的首项研究。

    Nov, 2018

  • 对抗鲁棒性基准测试

    本研究旨在建立一个全面、严谨、连贯的标准来评估对抗性鲁棒性，通过两个鲁棒性曲线作为公正的评估标准来进行大规模实验，全面掌握攻击与防御方法的表现并得出重要结论和未来研究的启示。

    Dec, 2019

  • 设计一款攻防游戏：通过竞争提高金融交易模型的鲁棒性

    金融领域中恶意攻击风险愈发上升，为了保护机器学习模型不受攻击，对对抗策略和强健的防御机制进行深入理解至关重要。本研究通过一项竞赛来调查基于序列金融数据的神经网络模型的对抗攻击和防御方法，并通过分析竞赛动态、实验证明了开发的攻击和防御方法在实际执行中的优越性，验证了竞赛作为发现和减轻机器学习模型漏洞的工具的有效性。

    Aug, 2023

  • 企业网络入侵检测的对抗鲁棒性评估

    提出了一种方法论性对多个决策树集成模型进行对抗鲁棒性评估的基准测试，评估了正常和对抗训练的随机森林 (RF)、梯度提升树 (XGB)、轻梯度提升树 (LGBM) 和增强型决策树 (EBM) 模型对网络流量的检测性能，通过减少误报来提高对可疑活动的可靠检测能力。

    Feb, 2024

  • 通过对抗性训练提高机器学习的稳健性

    研究了机器学习的鲁棒性，使用集中式和分散式环境进行对抗训练，结果显示比现有研究提高了 18.41% 和 47% 的准确性，并提出了独立同分布和非独立同分布数据的 IID 数据共享方法，可提高自然准确性和鲁棒准确性。

    Sep, 2023

  • 数量大于强度：通过对抗训练的集合优化鲁棒性和计算效率

    通过对对抗样本的数据增广训练神经网络模型，以提高模型的抗干扰性，并发现通过将小型模型构成的集成模型一起进行对抗训练相比使用单个大模型的训练更有效。而重点在于对整个集成模型的对抗训练，而不是只对每个模型进行对抗训练。

    Nov, 2018

  • 可靠的特征选择对抗性鲁棒性网络攻击检测

    通过选择与网络攻击检测最相关的特征，在网络流量分析中训练机器学习模型所使用的高质量数据，可以提高模型的鲁棒性和计算效率。通过改进数据集、选择与时间相关的特征和更具体的特征集，以及进行对抗训练，机器学习模型在不损害正常流量传输的情况下显著提高了其抗对抗攻击的泛化能力，从而在企业计算机网络中可可靠地检测可疑活动和扰动流量。

    Apr, 2024

  • 评估事件识别模型的鲁棒性的对抗方法

    使用物理模态分解方法提取特征进行事件分类，使用可解释的分类器如逻辑回归和梯度提升进行两种事件的区分，研究了对抗攻击对分类器的鲁棒性影响。实验结果表明，相对简单的模型如逻辑回归对对抗攻击更容易受到影响。

    Feb, 2024

  • 深度学习模型的整体对抗鲁棒性

    该研究论文综述了深度学习模型对抗鲁棒性的研究主题和基本原则，包括攻击、防御、验证和新应用。

    Feb, 2022

  • 深度聚类模型的鲁棒性：对抗攻击与防御

    本文介绍了一种基于生成对抗网络的黑盒攻击，旨在分析和提高当前最先进的深度聚类模型的鲁棒性。经过实验验证，本篇研究发现传统无监督防御方法无法有效抵御这种攻击方式，从而呼吁开发更为鲁棒的深度聚类模型。

    Oct, 2022