anomalous inputs | BriefGPT

关键词anomalous inputs

搜索结果 - 4

利用统计技术在视觉模型中检测异常或超出分布的数据
机器学习系统中的越界数据和异常输入是当前的漏洞，往往导致系统做出错误的预测。本文评估了 Benford's 法则作为一种用于量化真实输入和受损输入之间差异的方法。我们相信在许多情况下，它可以用作检测异常数据点和标识越界数据的过滤器。我们希望
PDF3 months ago
深入研究对比语言图像预训练（CLIP）的鲁棒性
该研究全面调查了 Contrastive Language-Image Pre-training (CLIP) 模型的安全目标，特别关注三个关键属性：对视觉因素变化的弹性，校准的不确定性估计以及检测异常输入的能力。研究揭示了 CLIP 模型
PDF5 months ago
通过梯度分析探究神经网络的作用范围
通过梯度测量，消除了对于标签的依赖性，并利用数据相关容量、纯洁度和梯度等概念评估并鉴别了网络中的异常输入；并在检测离散分布，对抗性攻击和损坏样本等异常输入方面超越了现有的方法。
PDFa year ago
一种检测深度神经网络分类器异常输入的通用框架
提出了一种基于多层神经网络内部表征的无监督异常检测框架，其中包括可配置组件的元算法，具有面向统计检验和异常检测的具体实例，并且被评价为在检测敌对攻击和超出分布输入方面比其竞争方法更有效。
PDF4 years ago