adversarial manipulations | BriefGPT

关键词adversarial manipulations

搜索结果 - 7

合并提升自我审查对抗越狱攻击
通过融合批评模型和自我批评能力，将大型语言模型（LLM）微调于经过净化的合成数据之上，以提高其对抗性提示的自我批评能力和鲁棒性，从而显著降低攻击者的攻击成功率，为抵御越狱攻击提供了一种有前景的防御机制。
PDF25 days ago
架构修改对深度学习对抗鲁棒性的影响
通过对深度学习模型的鲁棒性进行实验评估，我们的研究旨在揭示模型修改对深度学习模型的可靠性和安全性在安全和保密关键应用中的重要性。
PDF2 months ago
BotSSCL: 自监督对比学习中的社交机器人检测
我们提出了一种基于自监督对比学习的社交机器人检测框架（BotSSCL），通过利用对比学习在嵌入空间中区分社交机器人和人类，改善了线性可分性。BotSSCL 的高级表示增强了对数据分布变化的鲁棒性并确保了泛化性能。实验证明，BotSSCL 在
PDF5 months ago
Fed-Safe: 在医疗保健中保护联邦学习免受对抗攻击
该研究探讨了医学图像分析中联邦学习应用的安全方面。通过引入联邦环境中的分布式噪音，可以开发出具备对抗攻击鲁棒性并符合联邦隐私标准的模型。研究结果表明，引入分布式噪音可达到与传统对抗训练相当的安全水平，同时需要更少的样本进行重新训练。
PDF9 months ago
夷为平地：机器学习钓鱼网页检测器上高效的敌对 HTML 攻击
通过黑盒优化算法，我们设计了一种新颖的细粒度修改方式，能够在不损害恶意性和视觉外观的情况下修改输入钓鱼网页的 HTML 代码，从而成功绕过目标检测器，破坏当前最先进的机器学习防钓鱼网页检测系统的性能，仅使用 30 个查询就能击败以前的攻击方
PDF9 months ago
穿过内、外流形价值函数针眼的 Shapley 解释
本文旨在为 XAI 背景下的特征重要性贡献价值函数，并引入一种新的基线价值函数 —— 联合基线价值函数，在低密度区域具有稳健性，该价值函数在协同游戏上表现良好。
PDF2 years ago
为循环神经网络构建对抗输入序列
通过添加精心选择的扰动来制造对机器学习模型的对抗输入，以此来解决复杂安全问题、引导自主车辆或预测金融市场行为，本文提出了在序列数据中处理递归神经网络的对抗输入序列，表明了先前为前馈神经网络所用算法的类别也可以适用于递归神经网络，对实验结果表
PDF8 years ago