trojan detection | BriefGPT

关键词trojan detection

搜索结果 - 9

通过简单自适应攻击解禁领先的安全对齐 LLMs
展示了最新的安全对齐语言模型 (LLMs) 即使面对简单的适应性越狱攻击也不具有稳健性，并提出了适用于越狱攻击的对抗性提示模板、随机搜索等攻击方法，同时探索了适用于特定情境的不同模型的脆弱性以及特定 API 特征导致的脆弱性，并介绍了在木马
PDF3 months ago
MMMDTD：基于深度神经网络的多领域木马检测器
该研究提出了 MDTD，一种用于检测 DNN 中的多领域特洛伊木马触发器的模型。MDTD 利用对抗学习方法估计距离决策边界的距离，以推断是否存在特洛伊木马触发器，对不同类型的触发器进行有效的识别。
PDF10 months ago
寻找类别编码模式的 AI 模型利用率测量
研究了利用神经网络对交通标志进行分类的应用场景中人工智能模型的可解释性问题，提出了机器学习模型的利用率量化方法，并将其用于污染和清洁的人工智能模型中进行分析，讨论了木马注入和检测的影响。
PDF2 years ago
基于拓扑先验的特洛伊木马检测触发器探测
探讨如何检测 DNN 在受到 Backdoor 攻击后的 Trojan，提出新颖的优先条件，如多样性和拓扑简单性，来增加发现合适触发器的可能性和改善触发器的质量，从而有效地提高了 Trojan 进行检测的准确性。
PDF3 years ago
Cassandra: 从对抗扰动中检测木马网络
本文提出了一种检测预训练模型是否被恶意篡改的方法，该方法通过学习神经网络的参数来捕获其对抗扰动，以检测是否存在后门；同时，本文还提出了一种异常检测方法来确定被感染的网络的目标类别。实验结果表明该方法检测恶意后门的准确率高达 92% 以上。
PDF4 years ago
AAAI神经网络特洛伊检测器设计科学计算器
设计了一种基于 TensorFlow Playground 的在线神经网络（NN）计算器和一种用于探测嵌入式晶体管的 NN 效率测量方法，通过使用修改后的 Kullback-Liebler 散度应用于 NN 模型状态的直方图，同时量化与数据
PDF4 years ago
TrojAI 软件框架：一种用于将特洛伊木马嵌入深度学习模型的开源工具
本文介绍了 TrojAI 软件框架，它是一套开源的 Python 工具，可以生成带有木马的数据集和相应的深度学习模型，以及演示了利用该框架生成基于 MNIST 的带有木马的分类器和使用矢量观测生成带有木马的强化学习模型的能力。同时，该框架还
PDF4 years ago
基于深度神经网络的多领域特洛伊木马检测方法设计与评价
本研究提出了一种名为 STRIP-ViTA 的多域特洛伊防御方法，通过对输入数据进行 STRong Intentional Perturbation，实现了跨视觉、文本和音频三个领域的特洛伊检测，并成功实现了任务域和模型结构的独立。实验结果
PDF5 years ago
TABOR: 人工智能系统中检查和恢复特洛伊木马后门的高精度方法
该研究提出了 TABOR 技术，它将特洛伊木马检测任务形式化为非凸优化问题，并提供了一种新的目标函数和度量标准，通过可解释的 AI 技术帮助优化更加有效地识别特洛伊木马后门，并使用异常检测方法过滤出误报。
PDF5 years ago