BriefGPT.xyz
Ask
alpha
关键词
attack models
搜索结果 - 5
实例编码是否能够实现私有学习?
本研究探讨了通过实例编码机制来保护隐私的非隐私学习算法,提出了两种攻击模型,分别证明了实现(强)模型的不可能性结果和在 InstaHide 上实施较弱的攻击模型的可行性。
PDF
4 years ago
ACL
OpenAttack:一个开源的文本对抗攻击工具包
本篇论文提出了一个基于开源的文本对抗攻击工具包 OpenAttack,该工具包有其独特的优势,在支持所有攻击类型、多语言和并行处理方面表现突出。它包含 15 种典型的攻击模型,覆盖了所有攻击类型,高度包容性的模块化设计不仅支持现有攻击模型的
→
PDF
4 years ago
随机平滑在可证明鲁棒性中的维数诅咒
该研究论文使用 i.i.d. 平滑分布技术进行随机平滑,证明了在高维度情况下使用该技术,防御不同攻击模型会有一定挑战,并有类似到 isotropic Gaussian 平滑的最优结果。
PDF
4 years ago
对成本信号进行对抗操纵的欺骗性强化学习
本文研究了恶意篡改成本信号下的强化学习,并介绍了攻击模型的量化框架,该模型有助于了解强化学习的漏洞。通过对 Q-learning 的研究,我们证明了 Q-learning 算法在隐蔽攻击和成本信号有限篡改下仍然能够收敛。通过解析篡改代价与
→
PDF
5 years ago
一点即可:绕过分布式学习的防御
分布式学习中存在安全威胁,参与者可以通过小且巧妙的更改避开所有现有的防御措施,使得网络模型性能下降 50%,从而导致 MNIST 和 CIFAR10 模型行为被篡改。
PDF
5 years ago
Prev
Next