extraction attacks | BriefGPT

关键词extraction attacks

搜索结果 - 6

REVS：通过词汇空间中的排名编辑来消除语言模型中的敏感信息
通过 REVS 方法，我们可以修改大型语言模型（LLMs）中的少量神经元，从而去除敏感信息、抵御提取攻击，并保持模型的完整性。
PDF21 days ago
LLMs 下的敏感信息能够被删除吗？防御抽取攻击的目标
提出了攻击和防御框架用于直接删除模型权重中的敏感信息，研究表明即使使用先进的模型编辑方法，也很难真正从语言模型中删除敏感信息，并提供了一些防御方法来抵御抽取攻击。
PDF9 months ago
大型语言模型的知识清洗
我们探索了一种知识消毒方法，用于减轻与大型语言模型（LLMs）相关的隐私问题。我们的方法通过微调模型，在查询特定信息时，促使其生成无害回答，如 “我不知道”。实验证实，我们的简单方法不仅最小化了特定知识泄漏，还保留了 LLM 的整体性能。这
PDF9 months ago
自然语言处理 Fine-tuning 方法中的记忆化
本论文通过成员推断和提取攻击实证研究了不同调参方法（如全模型微调、模型头微调和适配器微调）的记忆化风险，发现微调头部的风险最高，而微调较小的适配器则较不容易受到已知提取攻击的影响。
PDF2 years ago
DualCF: 从反事实解释中进行高效模型提取攻击
本文提出了一种名为 DualCF 的策略，用于云模型抽取攻击中的高效查询，在使用对抗性 CF 训练代替模型时，可以通过将 CF 与对抗性 CF 的解释匹配使代替模型的准确度更高。
PDF2 years ago
MLaaS 范式中的模型提取警告
该研究提出了一种基于云的提取监视器，通过观察单个和串通的对手用户的查询和响应流来量化模型的提取状态，从而使用信息增益来测量具有不断增加查询数量的用户的模型学习速率，并维护智能查询摘要以在串通存在的情况下测量与输入特征空间覆盖度相关的学习速率
PDF7 years ago