少而精：通过亚模性子集选择获取更少的可解释区域

ICLRFeb, 2024

少而精：通过亚模性子集选择获取更少的可解释区域

Less is More: Fewer Interpretable Region via Submodular Subset Selection

Ruoyu Chen, Hua Zhang, Siyuan Liang, Jingzhi Li, Xiaochun Cao

TL;DR通过重新建模图像归因问题，该论文提出了一种基于子模集选择问题的图像归因算法，旨在利用更少的区域来增强模型的可解释性，并通过构建新颖的子模函数来发现更准确的细粒度解释区域，在子区域的选择上引入了信心，有效性，一致性和协作得分四个不同的约束来评估各个子集的重要性。与现有方法相比，在两个人脸数据集（Celeb-A 和 VGG-Face2）和一个细粒度数据集（CUB-200-2011）上的大量实验证明了所提出方法的优越性。

Abstract

image attribution algorithms aim to identify important regions that are highly relevant to model decisions. Although existing attribution solutions can effectively assign importance to target elements, they still face the following challenges: 1) existing attribution methods generate i

image attribution algorithms model interpretability submodular subset selection problem fine-grained interpretation regions face datasets

发现论文，激发创造

用于目标数据子集选择的次模互信息

本篇研究利用 Submodular Mutual Information 函数通过有目的性地选择数据子集的方式解决了深度学习模型训练中的数据问题，并且在 CIFAR-10 和 MNIST 数据集上的图像分类任务中证明了其有效性，并和其他相关方法如主动学习进行了对比，结果显示 SMI 函数相比其他方法提升了 20-30% 的分类性能。

Apr, 2021

图像数据归因的简单有效基础线

数据归因是理解机器学习模型的关键方法之一，我们提出了一种基于自监督学习预训练的最小化基线方法，对图像数据进行归因，这种方法计算成本低、内存占用少、易于扩展，且在 CIFAR-10 和 ImageNet 上实现了与现有方法相媲美甚至更好的性能。

Nov, 2023

子模型多任务子集选择中的本地分布鲁棒性

在本研究中，我们通过引入基于本地分布鲁棒性的参考分布邻域，提出了一种多任务子模块优化问题的方法。我们首先建议引入一个正则化项，利用相对熵与标准多任务目标之间的关系。然后通过对偶性证明这个新的公式本身等同于最大化一个子模块函数，这可以通过标准的贪婪选择方法高效实现。这种方法填补了多任务子集选择中性能 - 鲁棒性权衡优化的现有差距。为了数值验证我们的理论结果，我们在两种不同的情况下进行了测试，一种涉及对地球低轨道星座中的卫星进行选择以解决传感器选择问题，另一种涉及使用神经网络进行图像摘要任务。我们将我们的方法与两种其他算法进行了比较，这两种算法侧重于最坏情况下任务的性能优化和直接优化参考分布本身的性能。我们得出结论，我们的新公式提供了一种局部分布鲁棒且计算费用低廉的解决方案。

Apr, 2024

分布式基于配对次模函数的大于内存子集选择

通过提出一种新颖的分布式界限算法，并使用多轮基于分区的分布式贪心算法，此论文解决了子集选择问题，能够在没有或极小损失质量的情况下，找到高质量的子集。

Feb, 2024

使用稀疏子集选择的图像分割

该论文介绍了一种基于稀疏子集选择概念的图像分割方法，该方法采用局部光谱直方图特征将视觉信息编码为高维向量，并将其馈入一种新颖的凸模型，该模型有效地利用特征将超像素分为适当数量的连贯区域。该模型自动确定连贯区域的最优数量和超像素分配以形成最终的分割结果，并且作者设计了一种基于交替方向乘子法的数值算法来解决该模型，该算法高度可并行化且计算效率非常高，论文还通过广泛的实验验证表明，与现有的最先进方法相比，该方法在结合超分割的情况下可以提供高质量和具有竞争力的结果。

Apr, 2018

可解释准确的细粒度识别：区域分组方法

本研究提供了一种可解释的深度模型，通过在深层神经网络中将基于区域的部件发现和归因结合起来实现细粒度视觉识别，并通过图像级对象标签进行训练，可以有效地识别图像中的对象部件，提高细粒度识别和对象部件定位的准确性。

May, 2020

通过指导因式分解来可视化监督学习和自监督神经网络

本文提出了一种结合梯度和属性方法的算法来提供逐类的可解释性，该算法在纠正显著特征的同时，通过反向投影来提供每像素的局部影响，并成功地证明了在各种基准测试上的优越性能，包括用于梯度方法评估的基准测试以及主要用于评估属性方法的基准测试，此外，本文还成功地证明了自监督方法可以学习语义信息。

Dec, 2020

属性归因方法一致高效的评估策略

本文提出了一种新的本地特征归因方法评估框架 Remove and Debias (ROAD)，该框架通过减少信息泄漏和消除计算昂贵的重新训练步骤，为不同的归因技术提供高一致性的评估。

Feb, 2022

探究归因方法的改进

本文提出三种新的评估方案来衡量影响深度神经网络决策的图像区域，以及平衡各种评估方法之间的比较，并提出一个后处理平滑步骤来改善一些归因方法的性能。

May, 2022

你看到的就是你分类的：黑盒归因

在黑盒神经网络的基础上，通过训练第二个网络来预测对预备的黑盒分类器的贡献，并将这些贡献以只显示与分类器相关部分的蒙版的形式提供，我们的方法可以直接在单个前向传递中生成非常明显的类特定蒙版。

May, 2022