adversarial robustness | BriefGPT

关键词adversarial robustness

搜索结果 - 344

在连续学习中维持对抗性鲁棒性
机器学习系统的安全性和可靠性需要对抗鲁棒性。然而，由于神经网络在学习新任务时容易忘记先前的对抗鲁棒性，复杂的防御算法所获得的对抗鲁棒性很容易被抹去。为了解决这个问题，我们提出了一种名为 “双梯度投影” 的方法，通过将权重更新的梯度正交投影到
PDF5 months ago
AAAIVQAttack：基于预训练模型的可传递视觉问答对抗攻击
使用预训练的多模态源模型生成对抗性图像 - 文本对来攻击目标 VQA 模型，并提出了一种新的 VQAttack 模型，通过设计的模块迭代生成图像和文本扰动，实验证明在转移攻击环境下，与现有方法相比，该模型具有有效性。
PDF5 months ago
DART：一种基于原则的对抗鲁棒性非监督域适应方法
研究了分布变化和对抗样本在机器学习模型部署中的两个主要挑战，并提出了一种新的防御框架 DART，通过独特的领域适应度及损失函数建立的一般性界限，显著提高对抗鲁棒性。
PDF5 months ago
软提示威胁：通过嵌入空间在开源 LLMs 中攻击安全对齐和遗忘
该研究探讨了开源 LLM 模型中潜在的敌对攻击方法，发现利用嵌入空间进行攻击可以更高效地触发危险行为，并提出了一种新的威胁模型，展示了嵌入空间攻击从正在学习和删除的 LLM 模型中提取已删除信息的能力。
PDF5 months ago
单相对比赫布学习的两个故事
通过将梯度表示为活动差异的方法进行生物合理性学习算法的搜索，提出了名为 “双向传播” 的完全本地学习算法，弥补了与反向传播的性能差距，无需分离的学习阶段或无穷小的盯人，在稳定性方面仍然与对称盯人无关。
PDF5 months ago
随机加密视觉转换器的敌对鲁棒防御的集成
使用视觉变换器 (ViT) 的加密模型的随机集合，提出了一种增强对白盒和黑盒攻击鲁棒性的新方法，在 CIFAR-10 和 ImageNet 数据集的图像分类任务中，该方法不仅对抗白盒攻击，而且对抗黑盒攻击，并在 RobustBench 标准
PDF5 months ago
压缩数据集下对抗训练的有效性研究
通过在数据集中找到最小有限覆盖（MFC）的方法，提出了一种新的考虑鲁棒性的数据集压缩方法，用于提高数据集压缩效率和对抗性鲁棒性，并证明其在三个数据集上具有更好的鲁棒性和性能平衡。
PDF5 months ago
对抗训练的高维模型：几何与权衡
在高维度背景下，研究基于边界的线性分类器中的对抗性训练，提出了一个可以研究数据和对手几何结构相互作用的可行数学模型，精确描述了足够统计量的敌对经验风险最小化，揭示了存在可以在不损失准确性的情况下进行防御的方向，并且证明了防御非鲁棒特征在训练
PDF5 months ago
通过向非关键神经元注入噪音来提升 DNN 的对抗性强度和效率
通过引入一种非均匀噪声注入算法，本文提出了一种同时提高对抗鲁棒性和执行效率的有效方法，实验证明该方法在多种攻击场景、模型架构和数据集上成功提升了鲁棒性和效率。
PDF5 months ago
视觉语言模型的部分再集中软最大值损失函数鲁棒性
通过修改预训练的多模态模型的损失函数，限制前 K 个 softmax 输出，本研究在评估和评分基础上展示了，经过微调后，预训练模型的对抗鲁棒性可以显著提高，抵御常见攻击。后续研究应该探索这种损失函数的输出多样性、泛化性以及鲁棒性与性能之间的
PDF5 months ago
MixedNUTS: 通过非线性混合分类器实现训练无关的准确性和鲁棒性平衡
通过非训练方法的集成学习，利用 MixedNUTS 将强健分类器和标准非强健分类器的输出透过非线性转换与 3 个参数优化来提高准确性和鲁棒性，在 CIFAR-10、CIFAR-100 和 ImageNet 数据集上的实验结果显示 Mixed
PDF5 months ago
基于梯度的 $l_0$ 范数对抗性样本的优化
在这项研究中，我们提出了一个新的 l0 范数攻击方法，称为 sigma-zero，该方法利用了 l0 范数的一种特殊的可微近似来优化梯度，以及一个自适应的投影算子来动态调整损失最小化和扰动稀疏性之间的权衡。通过对 MNIST、CIFAR10
PDF5 months ago
探索基于决策的黑盒攻击在语义分割上的应用
通过对语义分割的案例研究，本文首次探索了对语义分割的黑盒决策攻击，并提出了一种名为离散线性攻击（DLA）的决策攻击方法，通过随机搜索和代理指数实现了高效攻击效果，评估了 5 个模型在 8 种攻击下的对抗鲁棒性。DLA 在 Cityscape
PDF5 months ago
GPS: 基于对抗汇聚的多尺度增强视图的图对比学习
自我监督图表示学习是最近在生物信息学和社交网络等领域显示出相当潜力的技术。本文介绍了一种名为 Graph Pooling ContraSt（GPS）的新方法，通过重新思考图池化（graph pooling）并利用其自动生成多尺度的正视图，从
PDF5 months ago
预训练中通过对抗训练获得更好的表示：理论视角
大规模深度学习中，预训练生成了下游任务的通用表示。现有文献经验性地观察到下游任务可以继承预训练模型的对抗鲁棒性，并提出了理论上的证明以揭示特征净化在预训练模型和下游任务之间的连接，在两层神经网络中展现出重要作用。通过对抗训练，每个隐藏节点趋
PDF5 months ago
通过特征解缠缚来缓解对抗鲁棒性中的特征差距
我们提出了一种基于潜在特征解缠的方法，以明确建模并进一步消除导致特征差异的潜在特征，从而提高深度神经网络对抗样本的鲁棒性。实证评估表明，我们的方法超越了现有的对抗微调方法和对抗训练基线。
PDF5 months ago
深度卷积神经网络的鲁棒性建模的系统方法
卷积神经网络在大量标记数据可用时表现出广泛的适用性，然而近期的研究为更大规模的模型是否能够推广到受控训练和测试集之外的数据提出了质疑。本文研究了 ResNet 模型中隐藏层数量对 MNIST、CIFAR10 和 CIFAR100 数据集的影
PDF5 months ago
输入凸型 Lipschitz 循环神经网络：一种高效稳健的工程任务方法
通过结合凸特性和 Lipschitz 连续性，开发了一种名为 Input Convex Lipschitz Recurrent Neural Network 的新型网络架构，该模型在计算效率和对抗鲁棒性方面胜过现有的循环单元，适用于多种工程
PDF6 months ago
预训练模型引导的零样本对抗鲁棒性微调
本研究提出了预训练模型引导的对抗微调（PMG-AFT）方法，通过精心设计辅助分支，利用原始预训练模型的监督来增强模型的零样本对抗鲁棒性。对 15 个零样本数据集进行的广泛实验证明，PMG-AFT 在顶部 1 的抗干扰准确性方面显著优于最先进
PDF6 months ago
教师 - 学生环境中的密集式霍普菲尔德网络
Dense Hopfield 网络在特征到原型的转换和对抗性鲁棒性方面具有特色。本研究通过研究无监督学习问题中教师 - 学生设置的 p-body Hopfield 网络的相图，在模式检索方面揭示了类似于原型学习和特征学习区域的铁磁相。我们发
PDF6 months ago