Jul, 2024
关于LLM应用商店的(不)安全性
On the (In)Security of LLM App Stores
TL;DR在本研究中,我们提出了一个三层的关注框架来识别LLM应用的潜在安全风险,其中包括具有滥用潜力的LLM应用、具有恶意意图的LLM应用和存在可利用漏洞的LLM应用。通过静态和动态分析、建立包括31,783个条目的大规模有害词典,以及自动监测工具,我们从六个主要应用商店收集了786,036个LLM应用,并发现了一些具有误导性描述的应用、违反隐私政策的应用以及产生有害内容的应用。此外,我们还评估了LLM应用促进恶意活动的潜力,发现了616个可能用于生成恶意软件、网络钓鱼等活动的应用。我们的研究结果强调了对强大的监管框架和加强执法机制的紧迫需求。