- 大型语言模型的上下文注入攻击
通过在聊天系统中引入虚构的上下文，利用大型语言模型中的错误分类和上下文混淆的问题，可以进行上下文注入攻击，破坏实时交互的大型语言模型的安全性。研究发现了进行上下文注入攻击的策略并验证了其高成功率，同时提出了攻击检测和开发更安全模型的可能对策 - 多模态攻击检测用于动作识别模型
对视频动作识别模型的对抗机器学习攻击是一个不断增长的研究领域，然而只有很少的工作关注抵御或检测这些攻击。我们在这项工作中提出了一种新颖的通用检测方法，该方法与任何动作识别模型兼容，并在广泛的实验中表明其在高真阳性率的同时满足非常低的假阳性率 - 揭示针对说话人识别的对抗样本 -- 攻击检测和受害模型分类的技术
提出了一种检测对抗性示例的方法，基于新的架构进行攻击类型分类并介绍一种对受害模型进行识别的方法，获得了较高的检测准确率和分类准确率。
- VANETs 中的攻击 / 异常检测
提出了一种针对车辆自组织网络中恶意行为的实时检测系统，通过集成统计学和机器学习技术，以简单高效的方式快速检测攻击并识别恶意车辆，同时运用联邦学习提高隐私性和恶意节点检测的效率，以降低误报率。
- 受限双变分自编码器用于物联网系统的入侵检测
该研究文章提出了一种称为受限双变分自编码器（CTVAE）的新型深度神经网络 / 架构，可用于将入侵检测系统（IDS）的分类器提供更可分离 / 可区分和低维表示数据，相较于现行状态 - of-the-art 的神经网络，CTVAE 所需的内存 - 3D 人脸识别系统对形变攻击的脆弱性
该研究论文的主要内容是研究面部识别系统中的 3D 面部形态学攻击，并描述了生成 3D 面部形态学和检测攻击的方法。
- ICML基于查询的黑盒攻击下具有状态的防御的理论权衡
机器学习系统面临着对抗性示例的威胁，尽管在受限的黑盒条件下攻击成功率令人担忧。本研究旨在对有状态防御进行理论描述，提供了攻击检测和假阳性率之间的权衡的上限，并分析了特征提取器 / 底层问题域的性质对此权衡的影响。通过在多个数据集和有状态防御 - 机器学习检测网络攻击并区分电力系统干扰类型
基于机器学习的智能电网攻击检测模型，通过利用来自相量测量设备（PMUs）的数据和日志，学习系统行为并有效识别潜在的安全边界。研究使用来自不同 PMUs、继电器嗅探警报和日志的 15 个独立数据集验证了提出的模型，结果显示随机森林模型在检测电 - 减少变形攻击所需的工作量 —— 深度嵌入用于选择变形配对与改进变形攻击检测
该研究考察了人脸嵌入在人脸融合攻击中的应用，既可用于生成大量的融合攻击，也可用于检测融合攻击。研究结果表明，MagFace 模型在预选择图像和检测融合攻击方面的效果优于常用的 ArcFace 模型，并且商用人脸识别系统比开源系统更容易受到攻 - NetGPT：面向网络流量的生成式预训练 Transformer
本文提出了一种用于网络流量理解和生成任务的生成预训练模型，优化了适应预训练模型到多样化任务的效果，并在一系列流量理解和生成任务中展现了其显著的有效性，显著优于现有技术方案。
- FedDiSC：用于电力系统扰动和网络攻击鉴别的计算高效的联邦学习框架
本文提出了一种基于联邦学习的隐私保护和通信高效的攻击检测框架 FedDiSC，通过联合训练攻击检测模型，利用表示学习的深度自编码器网络精确检测电力系统和网络安全的异常，利用 DP-SIGNSGD 等梯度隐私保护量化方案，提高其通信效率，并在 - 5G 无人机场景下的深度注意力识别：新颖架构和端到端评估
提出了一种基于 Deep Attention Recognition 的解决方案，通过认证的 UAV 中嵌入一个小型的深度网络，用可观测参数 SINR 和 RSSI 识别 Line-of-Sight (LoS)，Non-Line-of-Si - AAAI学习多义反欺骗迹象：一种用于人脸反欺骗的多模态解缠网络
该研究论文主要针对人脸识别中的反欺诈问题，提出一种多模态解缠模型，通过对来自 RGB 和深度输入的欺诈模式进行重定标定和交叉模态聚合，实现了更精确、更稳健的反欺诈预测。
- MMVLAD-VSA：基于词汇分离和适应性的跨领域人脸攻击检测
本研究提出了使用 VLAD 聚合方法进行本地特征量化，并使用这些特征量化保留了本地特征的可区分性，以及通过词汇分离和适应方法进行跨领域 PAD 任务的改进，以达到更好的相似度测量结果。
- 识别文本分类器的对抗攻击
本文为对文本分类器对抗攻击的取证研究提供了第一步，通过分析对抗文本来确定其创建方法，提供了一个广泛的攻击检测和标记数据集，使用该数据集开发和基准测试攻击识别的多个分类器，并展示了三类特征对这些任务的有效性。
- MM基于编码器和朴素贝叶斯模型的网络攻击分类器，用于资源受限设备
本文提出了 NBcoded，一种新颖而轻量级的攻击分类工具，重点解决了在有限的资源设备和不过载设备性能的情况下使用攻击分类器时高计算要求和高内存使用的问题，并将其与其他分类器进行了比较。
- 模型提取攻击的有状态检测
本研究提出 VarDetect，一个可用于追踪 API 用户查询分布并检测模型提取攻击的有状态监视器。VarDetect 使用经过改进的变分自编码器学习潜在的查询分布并可有效地检测三种类型的攻击者样本。此外，VarDetect 也能被部署为 - MM使用深度共享网络进行不同化脸部检测
本文提出了一种新的差分变形攻击检测框架，使用深度 Siamese 网络，通过比较我们的模型与其他经典和深度学习模型，使用两个不同的变形数据集，VISAPP17 和 MorGAN，我们探索了由对比损失生成的嵌入空间，并使用欧几里得距离、特征差 - 变体中的恶魔：DNN 的统计分析，用于强健后门污染检测
本文研究了深度神经网络中的后门污染问题，提出了一种基于 EM 算法的攻击检测技术，可有效识别出攻击样本，包括新的污染数据攻击，并且对于攻击方的规避尝试也具有较强的鲁棒性。
- 使用轻量级神经网络和主成分分析在工业控制系统中进行高效的网络攻击检测
本文研究基于 1D 卷积和自编码器的简单轻量级神经网络攻击检测方法，将此方法应用于时间和频率域，评估结果表明，该方法能够匹配或超过先前的检测结果，同时具有小的足迹、短的训练和检测时间及普适性。此外，本文研究了所提方法对敌对攻击的鲁棒性，结果