adversarial threats | BriefGPT

关键词adversarial threats

搜索结果 - 9

采用剩余流激活分析对大型语言模型进行防御
借助大型语言模型（LLMs），我们提出了一种创新的防御策略，通过对 LLM 的 Transformer 层之间的残余激活分析，实现对恶意输入的攻击提示分类的高准确性，同时集成安全微调技术提升模型的鲁棒性和提高检测和缓解对抗性输入的能力。
PDFa month ago
离线政策评估方法的数据污染攻击
通过利用来自鲁棒统计学的影响函数构建最大化策略价值估计误差的扰动，我们对现有的离线策略评估方法的鲁棒性进行了广泛实验，并发现当受到数据污染攻击时，这些方法很容易生成具有大误差的价值估计，这些发现对使用离线策略评估方法得出的策略价值的可靠性产
PDF3 months ago
大型语言模型是高级匿名化工具
近期在隐私研究中，大型语言模型在推断真实世界在线文本中的个人数据方面已经达到接近人类水平的性能。在存在不断增长的模型能力的同时，现有的文本匿名化方法目前无法满足监管要求和对抗威胁。这引发了一个问题，即个人如何能够有效地在分享在线文本时保护自
PDF4 months ago
基于联邦学习的基础模型集成在对抗威胁下的漏洞
在现有的联邦学习（FL）框架存在数据不足和不平衡的情况下，基础模型（FMs）的出现为解决 FL 框架的局限性提供了潜在的解决方案，然而，由于 FMs 的固有安全问题，将 FMs 集成到 FL 中可能引入新的风险，为了解决这一问题，我们首次研
PDF6 months ago
增强型变差攻击针对基于 RRAM 的神经形态计算系统
本文系统地研究了 RRAM-based NCS 的敌对威胁，并提出了两种类型的硬件感知攻击方法，VADER 和 EFI。实验结果表明，我们的硬件感知攻击方法可在极低操作成本的情况下达到近乎 100% 的攻击成功率，同时保持攻击的隐蔽性。
PDFa year ago
基于 Streamlit 的下一代无线网络人工智能信任平台
本研究提出一种基于 Streamlit 的 AI 信任平台，用于评估、防御、认证和验证 AI 模型和应用程序，以应对逃避、污染、提取和干扰的对抗性威胁，并保护下一代网络的网络安全。
PDF2 years ago
面向元宇宙的安全可信人工智能扩展现实（AI-XR）
本研究探讨了 AI-XR Metaverse 应用中安全、隐私和可信性方面的挑战，并提出了一套潜在的解决方案来开发安全、私密、稳健和值得信赖的 AI-XR 应用。
PDF2 years ago
MM针对车联网深度强化学习框架的对抗攻击
本文通过实验研究了 Sybil-based 数据恶意攻击对基于深度强化学习技术的动态服务部署在 IoT 中的影响，结果表明在网络中存在 Sybil-based 数据恶意攻击时，性能会显著受到影响。
PDF3 years ago
MM图神经网络模型提取攻击：分类和实现
该论文研究了机器学习模型面临的模型训练攻击问题，在实验中成功地运用了攻击方法将 GNN 模型复制出来，可对图形结构和节点特征进行提取攻击
PDF4 years ago