Feb, 2024

DualView: 双重视角的数据归属

PDF
TL;DR本研究介绍了一种基于替代建模的后续数据归因方法 DualView，它在计算效率和评估结果方面表现良好。通过使用适合的定量评估策略和相关的局部数据归因方法，我们发现 DualView 方法在需要较低计算资源的同时，表现不亚于其他方法。此外，该方法产生稀疏的解释，可以通过超参数进行调整。最后，我们展示了 DualView 可以将局部数据归因的解释与已有的局部特征归因方法兼容，并提供了在线的开源实现，以及与其他局部数据归因方法和此处报告的度量标准的实现，以便进行完全可复现性研究。
发现论文，激发创造
  • 图像数据归因的简单有效基础线

    数据归因是理解机器学习模型的关键方法之一，我们提出了一种基于自监督学习预训练的最小化基线方法，对图像数据进行归因，这种方法计算成本低、内存占用少、易于扩展，且在 CIFAR-10 和 ImageNet 上实现了与现有方法相媲美甚至更好的性能。

    Nov, 2023

  • 通过指导因式分解来可视化监督学习和自监督神经网络

    本文提出了一种结合梯度和属性方法的算法来提供逐类的可解释性，该算法在纠正显著特征的同时，通过反向投影来提供每像素的局部影响，并成功地证明了在各种基准测试上的优越性能，包括用于梯度方法评估的基准测试以及主要用于评估属性方法的基准测试，此外，本文还成功地证明了自监督方法可以学习语义信息。

    Dec, 2020

  • 文本 - 图像模型的数据归因评估

    通过调整现有大规模模型的方法进行数据归属性的评估，我们能够构建出受样例影响的合成图像数据集，并在此基础上评估多种数据归属算法及不同的特征空间。

    Jun, 2023

  • 扩散模型数据归因的有趣特性

    数据归因通过追溯模型输出至训练数据，以便为高质量或受版权保护的训练样本进行正确的归属评估，确保数据贡献者得到公正的补偿或认可。本研究在扩散模型上进行了广泛的实验和消融研究，特别关注 DDPMs 在 CIFAR-10、CelebA 以及在 ArtBench 上经过 LoRA 微调的稳定扩散模型的归因问题。有趣的是，我们报告了一些违背直觉的观察结果，即在理论上没有依据的设计选择在实践中表现出比以往基准线更好的性能，无论是线性数据建模得分还是对事实的评估。我们提出了一种更高效的方法来为扩散模型进行归因，而意外的发现表明，至少在非凸设置中，受到理论假设指导的构建可能导致较差的归因性能。该文提供了代码链接供参考。

    Nov, 2023

  • 探究归因方法的改进

    本文提出三种新的评估方案来衡量影响深度神经网络决策的图像区域，以及平衡各种评估方法之间的比较，并提出一个后处理平滑步骤来改善一些归因方法的性能。

    May, 2022

  • 训练数据归因的贝叶斯视角

    本文研究了训练数据归因技术，并提出了基于贝叶斯视角的训练数据归因方法；作者观察到单个训练样本的影响往往被模型初始化和 SGD 批量组成等噪音所掩盖，只有在某些特殊情况下才能可靠地使用训练数据归因来解释模型预测结果。

    May, 2023

  • 镜像影响假设：通过利用前向传递实现高效数据影响估计

    本文介绍了大规模黑盒模型、影响估计技术、镜像影响假设、训练数据影响评估方法及影响评估的效率改进。

    Feb, 2024

  • 利用空中和地面双视图图像的证据融合进行可信遥感场景分类

    本研究使用证据深度学习模型对多角度遥感数据进行了分类，该模型可有效地计算每个角度数据的可信度，并据此进行决策级融合，从而提高分类结果的准确性。实验结果表明，该方法在公开数据集上取得了最佳效果。

    Jan, 2023

  • 评估特征归因方法的双重视角方法

    特征归因方法通过识别相关特征来解释神经网络的预测结果，本研究在 “忠实度” 范式内提出了两个新视角：可靠性和完备性，分别评估特征是否真正预测，以及归因结果是否完整，并基于数学基础提供可计算的定量度量，将这些指标应用于主流归因方法，为分析和比较特征归因方法提供了新视角。

    Aug, 2023

  • 基于自监督相关性的多视图聚类算法

    我们提出了一个全新的基于深度学习的多视角聚类框架，通过学习有意义的融合数据表示和一致的伪标签，实现对通用数据的聚类分析任务的改进。

    Feb, 2024