robustness assessment | BriefGPT

关键词robustness assessment

搜索结果 - 8

KGPA: 大型语言模型的跨领域知识图谱鲁棒性评估
本文提出了一种通过知识图谱来评估大型语言模型在对抗攻击场景下的鲁棒性的框架，并通过生成原始提示和毒化的对抗提示来评估模型的鲁棒性。实验证明，ChatGPT 家族的对抗鲁棒性在 GPT-4-turbo > GPT-4o > GPT-3.5-t
PDF18 days ago
图像识别中神经网络稳健性评估综述
近年来，对神经网络的稳健性评估引起了极大关注，深度学习的稳健性问题特别突出，研究人员致力于在图像识别任务中评估稳健性，在此综述中，我们对神经网络评估中敌对稳健性和扰动稳健性进行了详细研究，分析当前研究和标准，提供了图像识别中稳健性评估的广泛
PDF3 months ago
面向卷积神经网络的快速准确软错误仿真
本文提出了一种基于误差模拟引擎的可靠性分析框架，通过利用从详细的故障注入活动中提取的一组经过验证的误差模型，定义卷积神经网络操作器输出的损坏模式，并在故障注入和错误模拟之间架起了一座桥梁，实现了结合两者优势的目的。实验结果表明，与 SASS
PDF2 years ago
NMT 能理解我吗？朝着基于扰动的 NMT 模型代码生成评估的方向
本文研究了神经机器翻译在代码生成中的鲁棒性检验方法和评价指标，提出了一组针对性的扰动和度量方式以验证模型的稳健性。通过初步的实验评估，得出了哪种扰动最影响模型以及对未来研究方向的有用见解。
PDF2 years ago
ECCV光流稳健性评估的扰动约束对抗攻击
本文提出一种全局的 “受限扰动流攻击”（PCFA）方法，可以优化对光流预测造成的破坏，同时使对抗扰动的 L2 范数保持在一个指定的阈值以下，实现了光流方法预测质量与对抗鲁棒性的综合评估，并发现了一些鲜有人注意的安全漏洞。
PDF2 years ago
具有可证明估计误差的深度神经网络最小对抗扰动
本文提出了两种轻量级策略来找到最小的对抗扰动，区别于现有技术，该方法允许对近似距离相对于理论距离进行误差估计理论，得到了实验结果的支撑，表明该方法适用于靠近分类边界的样本，具有抗击任何对抗性攻击的证明鲁棒性保证。
PDF2 years ago
对未知对手进行健壮性测试
提出了一种名为 ImageNet-UA 的模型鲁棒性测试框架，旨在测试模型对未遭遇过的对抗攻击的鲁棒性。该框架引入了四种新的对抗攻击，与 L_inf 等现有鲁棒性评估方法相比，ImageNet-UA 能更好地展现模型的鲁棒性。目前的防御措施
PDF5 years ago
对抗鲁棒性评估：为什么 L0 和 L∞攻击都是必要的
提出了一种双重质量评估法来评估深度神经网络算法的鲁棒性，分析了存在的问题，并揭示了当前网络和防御在各个鲁棒性级别上的脆弱性。
PDF5 years ago