security issues | BriefGPT - AI 论文速递

关键词security issues

搜索结果 - 10

SOS！针对开源大型语言模型的软提示攻击
在这项工作中，我们提出了一个名为 SOS 的新型训练时间攻击，该攻击在计算需求上较低，并且不需要干净的数据或修改模型权重，从而保持了模型的实用性。该攻击解决了多种情景下的安全问题，包括后门攻击、越狱攻击和提示窃取攻击。我们的实验结果表明，所
PDF3 days ago
理解联邦学习中的对抗迁移
我们研究了一个新颖而实用的情境中的弹性和安全问题：一组恶意客户端通过伪装身份和表现为良性客户端，在训练期间对模型造成影响，并且在训练之后揭示他们的对手位置以进行可转移的对抗攻击，这些数据通常是 FL 系统训练时使用的数据子集。我们的目标是全
PDF9 months ago
通过机器遗忘进行的后门攻击
近年来，由于深度学习研究和应用的快速发展，人工智能的安全问题变得越来越突出。在这项工作中，我们提出了一种基于机器反学习的黑盒后门攻击方法，通过精心设计的样本对训练集进行增强，然后利用取消学习请求来逐步激活隐藏的后门。我们还提出了两种方法来检
PDF10 months ago
一种基于强化学习的聊天机器人攻击性语义审查系统
本研究提出了一种基于强化学习的语义审查聊天机器人系统，由攻击性语义审查模型和清洗模型两部分组成。通过集成一次性学习方法，加快了语义净化速度，同时减少了对回复质量的影响，实验结果表明，本方案降低了聊天模型生成攻击性回复的概率，并有效地减缓了
PDF2 years ago
WWWCoProtector: 用数据污染保护开源代码免受未经授权的训练使用
本文提出了一种名为 CoProtector 的数据 Poisoning 技术，通过给源代码库武装来防御深度学习模型对开放源代码的滥用，实验证明 CoProtector 能有效实现其目的，显著降低了类 Copilot 的深度学习模型的性能，并
PDF3 years ago
无法被相机和 LiDAR 探测：在物理攻击下的自动驾驶多传感器融合感知安全
本文针对现代自动驾驶采用的多传感器融合设计方案的安全问题进行研究，旨在探究该方案在多源攻击下的安全性。作者提出一种优化攻击方法，生成一种 3D 打印的欺骗物，用于误导自动驾驶系统，测试结果表明该攻击方法能够在真实世界驾驶场景中达到超过 90
PDF3 years ago
MM机器学习在车联网安全中的应用：综合调研
本文探讨了机器学习在车联网安全领域的应用，介绍了车联网的基础知识和通信类型，提出了车联网安全攻击的分类和安全挑战要求，以及机器学习在应对安全问题时的解决方案与工作原理，并讨论了采用机器学习方法在车联网中面临的局限性和挑战。
PDF3 years ago
物联网设备恶意代码检测的联邦学习
本文研究联邦学习在物联网恶意软件检测中的应用及其安全问题。其中提出了一种使用联邦学习检测影响 IoT 设备的恶意软件的框架，并使用 N-BaIoT 数据集进行评估。研究表明，与传统方法相比，联邦学习方法可以显著提高模型性能，并且在保护用户隐
PDF3 years ago
保障互联和自动驾驶汽车的安全：对抗机器学习所带来问题和解决之道
本文阐述了在未来智能交通系统中，机器学习在自动驾驶汽车（CAV）中的应用所带来的各种挑战和潜在的安全问题，特别关注于对 CAV 的敌对性机器学习攻击，并提出了在多种情况下防御对抗攻击的解决方案。
PDF5 years ago
物联网安全与隐私问题调查
该论文是对物联网（IoT）中所有安全问题的概括调查，包括分析由 IoT 传播可能影响最终用户隐私的问题。该调查主要集中在物联网中使用的信息交换技术带来的安全漏洞上，未分析任何安全漏洞的对策。
PDF9 years ago