adversarial scenarios | BriefGPT

关键词adversarial scenarios

搜索结果 - 9

对抗性人工智能艺术：理解、生成、检测和基准测试
该研究论文提出了一种系统性尝试，以理解和检测在对抗场景中生成的 AI 图像（AI 艺术）。该论文收集和分享了一个名为 ARIA 的数据集，其中包含来自四种热门 AI 图像生成器生成的真实图像和对应的人工对应图像。通过对 ARIA 数据集进行
PDF2 months ago
JailBreakV-28K: 评估多模态大语言模型抵抗破解攻击的基准测试
本文研究了对抗大型多模态语言模型（MLLMs）的问题，通过引入 JailBreakV-28K 评估 LLM 越狱技术对 MLLM 的可迁移性，并评估了 MLLM 对多样越狱攻击的鲁棒性，结果表明 MLLM 存在来自文本处理功能的关键脆弱性，
PDF3 months ago
多智能体的健壮性诊断通过光明多样性
为了解决多智能体系统中训练期间过拟合的问题，本文提出了一种生成多样化对抗情景以暴露多智能体政策弱点的新方法 MADRID，并在复杂环境中进行了有效性评估，揭示了当前方法在决策制定方面的关键不足之处，强调了对多智能体系统的严格评估的重要性。
PDF5 months ago
关于分割算法的鲁棒性
该文讨论使用提示依靠快速学习和收集大规模数据进行目标检测的 Segment anything model (SAM) 是否能够在威胁场景下提供可靠性，发现 SAM 对于多种污染具有显着的鲁棒性，但在受到 PGD 和 BIM 攻击时容易受到影
PDFa year ago
AAAI面部篡改主动防御
本文提出了一种主动防御框架来降低恶意用户控制的面部操纵模型的性能，基本思路是在操纵之前向目标面部数据注入不可察觉的毒液。
PDF3 years ago
一个多分类提升框架，实现快速和可证明的对抗鲁棒性
本文提出了一种多类别增强框架来确保对抗鲁棒性，通过将鲁棒性要求加入损失函数并使用被对抗性破坏的输入进行随机梯度下降步骤，证明在弱训练预测器的情况下可以实现鲁棒性，实验证明对抗鲁棒的多类别增强不仅优于最先进的方法，而且训练所需时间极少。
PDF3 years ago
自动驾驶车辆在变道情境中的对抗性评估
本文提出的自适应评估框架可以通过深度强化学习生成对自动驾驶车辆具有挑战性的敌对环境，应用了集合模型来表示不同本地最优解以及非参数贝叶斯方法来对敌对策略进行聚类，验证表明所生成的敌对环境可以明显降低被测试车辆的性能，通过此方法可以推断所测试车
PDF4 years ago
AAAI面临威胁的强化学习
本文介绍了一种面向对抗环境的 Markov 决策过程（TMDPs）框架，提出了 level-k 思考策略，并通过实验验证了在考虑敌手因素的情况下学习模型的好处。
PDF6 years ago
暗池问题的最优配置策略
研究将股票分配到暗池的问题，提出了一种优化的方法，并在允许连续值分配时进行了分析。同时，针对仅可能整数值分配的情况提出了改进。在对抗性情景下扩展了前人的工作，并在鉴别独立假设下实现了改进。结果表明，这些算法在随机和对抗性输入的模拟中表现良好
PDF14 years ago