- 基于多面体抽象解释的节点扰动图卷积网络鲁棒性认证
改进了基于图的多层感知器的鲁棒性认证技术,通过多面体抽象解释方法在节点特征扰动的情况下提供 GCN 鲁棒性的上下界,并在训练过程中进一步提高 GCN 的鲁棒性。
- 证明说话人识别模型对加性扰动的认证
本文介绍了将鲁棒性认证技术应用于发音者识别领域,并通过对 VoxCeleb 1 和 2 数据集进行实证研究,证明了该方法的有效性,旨在提高声学生物特征识别的鲁棒性,建立新的认证基准,并加速音频领域认证方法的研究和应用。
- STR-Cert:深度学习管道与视觉变换器上的深度文本识别的健壮性认证
我们提出了 STR-Cert,这是一种用于固定、比较 STR 模型的序列预测问题的认证方法,通过扩展 DeepPoly 多面体验证框架来证明 STR 模型的鲁棒性,并针对 Vision Transformer 模型进行了验证。
- 用于相机运动扰动下的认证鲁棒性的像素级平滑化
通过在 2D 像素空间上使用平滑分布,而不是在 3D 物理空间中进行采样,增强了鲁棒性认证的效率,并在融合车辆运动空间的均匀分区技术的基础上,实现了对 3D-2D 投影转换的鲁棒性认证。
- 基于贝叶斯神经网络的对抗鲁棒性认证
通过权重区间采样的计算框架,对贝叶斯神经网络(BNNs)的鲁棒性进行了证明,包括在分类及回归等多种任务中的使用。
- 神经网络的精确与广义鲁棒性认证
该论文提出了一种新的框架 GCERT,可根据语义层面的图像变异准确地验证神经网络的鲁棒性,并通过生成模型的潜在空间中的方向将全面的语义层面的图像变异一致地表示为整体,以获得精确的分析友好的输入空间表示,同时大大缩短了鲁棒性认证的时间成本。
- 增量式随机平滑认证
我们提出了一种增量鲁棒性认证方法 IRS,通过重复利用原始光滑模型的认证保证,来维护新模型的认证保证并使计算成本降低了很多。
- 扩散去噪平滑在认证和对抗鲁棒的 ODD 检测中的应用
研究机器学习中如何确定训练分布和 ODD(Out-Of-Distribution)样本的检测机制,提出了一种基于 l2 范数的无需特定组件或训练的 ODD 鲁棒性证明的新方法以及改进了检测 ODD 攻击技巧的现有技术,在 CIFAR10 / - AAAI合作多智能体强化学习的认证策略平滑化
提出了基于虚警率控制和基于树搜索的算法用于分析多智能体的鲁棒性。实验证明该方法产生的可靠性界限比现有模型更紧密。
- ICLR针对语义分割的对抗补丁攻击的认证防御
本文提出一种名为 “Demasked Smoothing” 的方法,可以通过不需要模型结构或训练上的改变,提高深度学习模型抵抗语义分割任务中新兴的对抗性贴花攻击的鲁棒性,提供了可靠的检测和恢复机制。
- 揭示差分隐私与联邦学习认证鲁棒性在对抗性攻击下的关联
本文研究了使用不同 ially private way(DPFL)提供认证的鲁棒性来保护 Federated learning(FL)算法中存在的隐私泄露问题,包括提出了可提高实例级的隐私机制,并在用户和实例级别提供了二项认证标准来证明 D - ICML双采样随机平滑
提出了一种基于双重采样的随机平滑框架 (DSRS) 来提高神经网络模型的鲁棒性,并证明了其可以克服高维度数据集下现有随机平滑算法的 “维数诅咒”,实验表明 DSRS 可以在不同情况下比现有基准证明更大的鲁棒半径。
- GSmooth: 通过广义随机光滑化证明对抗语义转换的鲁棒性
本研究提出了广义随机平滑(GSmooth)理论框架及算法,通过新的维度扩增策略,可证明机器学习系统对普遍的语义转换是有稳健性的,采用基准测试的方法得到的结果显示了我们的方法非常有效。
- 随机平滑在受攻击环境下的实际效果如何?
本研究发现随机平滑在理论认证与实践中保护分类器免受黑盒攻击的设置存在差异,对 RS 进行攻击会导致认证的鲁棒性下降且分类器准确度降低。
- AAAI随机平滑的输入特定鲁棒性认证
提出了一种输入特定采样(ISS)加速方法,该方法可以通过降低采样大小,适应性地减少采样大小,从而实现强化认证的成本效益,同时普遍控制 ISS 采样大小对认证半径的下降。实证结果表明,ISS 可以在有限的 0.05 认证半径成本下将认证加速三 - ICLR通过函数平滑证明强化学习的稳健策略
本文介绍了一种名为 CROP 的统一框架,该框架旨在提供针对行动和奖励水平的稳健性认证,通过局部平滑算法和全局平滑算法来保证措施的鲁棒性。CROP 被用于评估几种现有的 RL 算法,包括 Atari 游戏和 Highway、CartPole - ICMLCRFL: 可验证抗后门攻击的联邦学习
本论文提供了第一个通用框架,Certifiably Robust Federated Learning (CRFL),用于训练具备抗击后门攻击认证的 FL 模型。该方法利用模型参数的裁剪和平滑来控制全局模型的平稳性,从而获得针对有限大小的后 - EMNLPLSTMs 在可编程转换下的认证鲁棒性
该论文提出了一种通过使用字符串转换语言来扩展鲁棒性证明的方法,成功地训练了比现有技术更鲁棒的模型,并且可以高精确度地证明模型的鲁棒性。
- MMTSS: 用于鲁棒性认证的转换特定平滑
本文提出了一个名为 TSS 的框架,用于证明机器学习算法具有普适的鲁棒性,能够有效地抵御各种对抗性的语义转换和攻击,特别是在图像分类领域中,对于像旋转,高斯模糊等紧密的语义转换表现出了优秀的鲁棒性。
- 关于认证抵御对抗攻击的非均匀界限
研究神经网络模型的鲁棒性认证问题,提出一种框架来限制输出标志,以使加宽限制后的问题能够通过增广 Lagrangian 方法来解决,证明了非均匀限制具有更大的体积和更好的鲁棒性,并提供了一种定量的数据 - 不可知度量输入特征的鲁棒性。