security implications | BriefGPT

关键词security implications

搜索结果 - 9

探索中文大型语言模型的隐私保护能力
我们设计了一个三层渐进式框架，用于评估语言系统的隐私，以解决大型语言模型在隐私保护方面的问题。观察结果显示，现有的汉语大型语言模型普遍存在隐私保护方面的缺陷，可能在基于这些模型的应用中带来相应的隐私风险。
PDF3 months ago
比较 ChatGPT 生成代码和 StackOverflow 答案的安全漏洞
将 ChatGPT 生成的代码与 StackOverflow 的代码进行比较，发现 ChatGPT 生成的代码存在较少的漏洞和较少的常见弱点枚举类型，结果表明开发人员对于两个平台的代码传播存在不安全的认识，需要采取良好的软件工程实践来降低风
PDF3 months ago
AdvGPS：多智能体感知攻击的对抗性全球定位系统
通过引入 AdvGPS，一种能生成对该系统内个体代理隐藏且具有对抗性的 GPS 信号的方法，本研究在 OPV2V 数据集上的广泛实验表明，这些攻击显著削弱了最先进方法的性能，突显了跨不同基于点云的 3D 检测系统的惊人转移性，从而强调了需要
PDF5 months ago
对奖励机器强化学习的对抗性攻击
研究论文通过分析基于奖励机制的强化学习技术的安全性，提出并评估了一种新型的攻击方式：致盲攻击。
PDF8 months ago
众包监控系统的进展：系统方法和自动化算法的综合分析：最新技术
公共安全是重要议题，本研究主要聚焦于群体监控系统的可靠性、安全性以及人工智能算法在自动化系统中的应用和效果。
PDFa year ago
视觉对抗样本破解大型语言模型
本文介绍了在大型语言模型中引入视觉的趋势。讨论了这个趋势的安全和安全风险，指出了高维视觉输入空间本质上是对抗性攻击的理想介质，以及这种趋势的广泛功能使得视觉攻击者有更多的攻击目标。还研究了 MiniGPT-4 对视觉对抗性例子进行了安全机制
PDFa year ago
利用大规模语言模型的有针对性网络钓鱼攻击
本研究旨在探讨自然语言模型如 GPT-3 和 GPT-2 生成有效钓鱼邮件的潜力，并提出了一个框架来评估其性能，我们的研究结果表明，自然语言模型生成的钓鱼邮件容易逃避垃圾邮件过滤器并且成功率高，在恶意目的下使用自然语言模型存在着重大安全和道
PDF2 years ago
不止一种鲁棒性：用对抗样本欺骗 Whisper
本文研究了对抗性噪声下自动语音识别模型的鲁棒性。作者通过小幅度输入扰动，即使增加了最高 45 分贝的噪音，可以显著降低模型精度，甚至能够转录出所选目标句子。作者还证明了欺骗模型语言检测器可以极大地降低多语言模型的性能，强调了 adversa
PDF2 years ago
MM深度学习系统的模型重用攻击
本文展示了恶意原始模型对机器学习系统的安全性带来的巨大威胁，并提供了有效、难以检测和易于实现的攻击方法，同时探讨了相应的潜在对策，给出了若干有前途的研究方向。
PDF6 years ago