adversarial testing | BriefGPT

关键词adversarial testing

搜索结果 - 8

警示：通过红队测试全面评估大型语言模型的安全性的综合基准
应用 ALERT 基准评估安全性，通过对大规模语言模型进行对抗测试，识别漏洞，改进并提高语言模型的整体安全性。
PDF3 months ago
通过图像感知的属性缩减进行视觉对位的对抗性测试
通过减少与图像不相关的信息，保留原始表达的关键信息，并确保减少的表达仍然能够唯一描述图像中的原始对象，我们提出了一种名为 PEELING 的文本扰动方法，用于对 VG 模型进行敌对测试。
PDF4 months ago
QuanTest: 量子神经网络系统的纠缠引导测试
Quantum Neural Network (QNN) systems face challenges in testing due to their differences from classical DL systems, ther
PDF5 months ago
AART：多元数据生成的 AI 辅助红队技术用于新 LLM 技术应用
通过自动生成敌对评估数据集，提供了一种新的方法，用于测试大型语言模型在新的下游应用中生成结果的安全性，为了减少人工工作量并能够更早地集成敌对测试，使用 AI 辅助的可重复和可定制的数据生成和增强流程，生成具有高内容特征多样性的评估数据集，结
PDF8 months ago
ANTI-CARLA：一种用于 CARLA 自动驾驶车辆的对抗性测试框架
提出一种基于 CARLA 模拟器的自动化测试框架 ANTI-CARLA，用于模拟令一般驾驶系统失灵的天气条件和传感器故障，该框架拥有高效的搜索机制，并成功地发现了一系列失败案例，该框架可用于任何给定驾驶管道的对抗性测试，作者在该框架下对 L
PDF2 years ago
EMNLP推动正确按钮：对质量评估的对抗性评估
该论文提出了一种对机器翻译中的质量评估进行敌对测试的方法，通过研究近期最优设备的评价体系，发现某些含有意义错误的翻译结果是难以被评估系统检测的。同时，该论文还研究了翻译结果保留原本含义和改变原本含义两种扰动的区别，并探讨了这种方法对于评估系
PDF3 years ago
CVPR人脸识别模型的模拟对抗测试
通过模拟器进行对抗测试，寻找机器学习模型的弱点并提供一种方法来发现这些弱点。该方法应用于人脸识别模型中，显示在常规的验证数据集之外，可以发现真实数据集训练的模型存在的弱点，包括对抗性合成人脸等。
PDF3 years ago
一种基于 PGD 的对抗性测试的替代代理损失函数
本研究介绍了一种新型的对抗性测试方法，称为 MultiTargeted，可以搜索引起神经网络输入错误的边界扰动，相较于其他方法，其需要迭代次数更少，且在 MNIST 和 CIFAR-10 中达到了最佳性能。
PDF5 years ago