black-box classifier | BriefGPT

关键词black-box classifier

搜索结果 - 10

通过列生成实现一对多的反事实解释
在本文中，我们考虑了一组实例的生成对照解释的问题，其中采用一对多分配规则，其中一种解释被分配给实例的一个子组。我们首次解决了最小化解释所需数量的问题，同时考虑了稀疏性，通过限制每个解释中允许同时更改的特征数量。我们开发了一种新颖的列生成框架
PDF5 months ago
CLIMAX：分类器基于对比解释的探索
本文提出了一种名为 CLIMAX 的后操作模型无关 XAI 技术，它提供了对黑盒分类器分类的对比解释以及为什么其他类别未被预测的理由。
PDFa year ago
不破碎鸡蛋逃避黑盒分类器
本文研究了利用黑盒分类器生成对抗性样本的基于决策的规避攻击，认为以查询次数作为攻击代价的度量方法是有缺陷的，因为对流程进行审查的系统检测到的查询是对称成本的。因此需要构建更加对称的攻击来更加有效地攻击安全关键系统。
PDFa year ago
移动目标的学习控制策略主动分类
本文提出了一种基于注意力机制的强化学习架构，通过计算控制输入，移动无人机到最优视角收集多个运动目标的语义信息，填补了 ' 黑匣子 ' 分类器无法对视角和输出建立分析关系的巨大空白。结果显示，该算法不仅优于多个基线算法，而且在未见过训练场景的
PDF2 years ago
ICLRConceptDistil: 概念解释的模型无关蒸馏
ConceptDistil 是一种基于知识蒸馏的方法，旨在为任何黑盒分类器提供概念解释，在通过两个组件：（1）预测给定实例中存在哪些领域概念的概念模型，（2）通过模仿黑盒模型使用概念模型的预测的蒸馏模型进行分解。在一个真实的用例中验证了 C
PDF2 years ago
KDD可解释性大脑网络分类的反事实图
本文提出了反事实图（counterfactual graphs）作为黑盒图分类器的后解释，然后提出和比较了几种反事实图搜索策略。测试结果表明，虽然该方法是启发式的，但它可以产生非常接近最优反事实图的结果，并展示如何使用反事实图来构建全局解释
PDF3 years ago
CVPR基于实例的因果特征选择用于模型解释
本文提出一个解释黑盒视觉分类器的因果推断扩展，即在实例特征选取的基础上选择对模型输出具有最大因果效应的特征子集，并使用相对熵距离量化这些特征子集的因果影响，该方法运用于多个视觉数据集中并证明了其高效性。
PDF3 years ago
黑盒分类器的信息论视觉解释
该研究从信息熵角度试图解释任意黑匣子分类器的预测结果，比现有方法提高了量化评价的正确性，通过提供两个信息熵评估指标（信息增益图和逐点互信息图）来分别提供类别无关和类别特定的结果。作者还对 ImageNet 分类器进行了详细分析，并提供了在线
PDF4 years ago
xGEMs: 生成范例以解释黑盒模型
该研究提出了 xGEMs 框架，通过探索底层数据流形的景观，将黑盒分类器的行为进行了深入理解。它采用无监督的隐式生成模型来训练数据流形的代理。通过扰动沿流形的数据样本来定量总结黑盒模型行为。展示了 xGEMs 在检测和量化模型学习中的偏差，
PDF6 years ago
ICML后解释性中代理器的可识别性定义
本研究针对黑盒分类器的应用，提出了一种基于本地替代模型的解释生成方法，强调了定义正确的邻域对于准确逼近本地黑盒决策边界的重要性。该方法通过在决策边界上的特定区域进行采样，生成了一个新型的替换方法，并在四个 UCI 数据集上进行了评估，证实了
PDF6 years ago