ai security | BriefGPT - AI 论文速递

关键词ai security

搜索结果 - 11

一种使用稳定扩散的防御对抗攻击的新方法
我们的研究论文提出了一种基于动态防御策略和稳定扩散的方法，该方法旨在在不使用对抗性示例的情况下进行 AI 系统的训练，以创建一个更广泛范围攻击下具有内在韧性的系统，从而提供一种更广泛且更强大的针对对抗性攻击的防御。
PDF2 months ago
抢先行动，后继攻击：评估目标检测系统对黑盒对抗攻击的鲁棒性
利用‘偷现，解密后’的攻击方式，在黑盒情况下生成幽灵对象的可行性研究，证明了该攻击可以成功地利用 AI 服务的潜在漏洞，给 AI 安全带来了重大威胁。
PDF2 months ago
检测大型 AI 模型生成的多媒体内容：一项调研
通过系统的调查研究，我们填补了一个学术空白，为全球人工智能安全努力做出贡献，帮助确保数字领域中信息的完整性。
PDF5 months ago
Signed-Prompt: 防止 LLM 集成应用程序中的 Prompt 注入攻击的新方法
大语言模型中快速注入攻击的关键挑战以及引起人工智能领域日益关注。传统的防御策略不够有效，本文提出了一种新颖的解决方案 ——“签名提示”。该方法通过将敏感指令签名并由授权用户使用，使得语言模型可以辨别可信指令来源。本文详细介绍了快速注入攻击模
PDF5 months ago
保障海上自治系统中人工智能的红队框架
通过使用一种多部分检查表的框架，我们展示了如何高效地评估海上自主系统的人工智能安全，并揭示其中的多个漏洞，从中毒到对抗性补丁攻击。通过系统化的人工智能红队行动，我们可以防止与提高对使命关键人工智能的接受和依赖性相应的严重事件。
PDF7 months ago
医疗联邦学习的隐藏对抗性漏洞
本研究探讨了联邦医学影像分析系统对对抗攻击的易受攻击性。我们的分析揭示了一种新的利用途径：通过使用先前全局模型更新的梯度信息，攻击者可以提高他们攻击的效率和可迁移性。具体而言，我们证明了单步攻击（例如 FGSM）在适当初始化的情况下，可以超
PDF8 months ago
AI 产品安全：开发者入门
本文介绍了 AI 安全与对抗攻击的概念，探讨了机器学习产品的威胁和 AI 产品开发中常见的陷阱，适用于 AI 软件产品的开发人员、设计师、管理者和研究人员。
PDFa year ago
普适机器人系统的 AI 安全威胁：下一代网络安全人才的课程
物理机器人近距离工作，科技安全的威胁引起人们担忧。现今缺少专业人士来保护这些系统，因此需要相应的课程来开发和集成。该课程包括七个自包含的模块，旨在对普及的机器人系统进行人工智能安全威胁防御与训练。
PDFa year ago
面向上下文的差分隐私语言建模
本文介绍了 Context-Aware Differentially Private Language Model（CADP-LM）框架，该框架利用上下文定义和审计可能的敏感信息，并采用差分隐私来保护敏感信息和表征隐私泄漏，实现对敏感句子和
PDFa year ago
自动驾驶中基于语义 AI 的安全性综述
对自动驾驶（AD）系统中语义 AI 安全的研究领域进行了系统化概括，总共收集和分析了 53 篇论文，概括出 6 个最实质性的科学空白。为了解决最关键的科学方法层面的空缺，我们发起了开源、统一、可扩展的系统驱动评估平台 PASS 的开发，并使
PDF2 years ago
去偏见化后门攻击：利用后门攻击消除数据偏见
本文研究了一种新的 AI 安全风险 —— 后门攻击，并提出 Debiasing Backdoor Attack (DBA) 来解决数据去偏差问题，该方法在去偏差任务中取得了最先进的结果，适用范围比欠采样更广。
PDF2 years ago