数据归因通过追溯模型输出至训练数据，以便为高质量或受版权保护的训练样本进行正确的归属评估，确保数据贡献者得到公正的补偿或认可。本研究在扩散模型上进行了广泛的实验和消融研究，特别关注 DDPMs 在 CIFAR-10、CelebA 以及在 ArtBench 上经过 LoRA 微调的稳定扩散模型的归因问题。有趣的是，我们报告了一些违背直觉的观察结果，即在理论上没有依据的设计选择在实践中表现出比以往基准线更好的性能，无论是线性数据建模得分还是对事实的评估。我们提出了一种更高效的方法来为扩散模型进行归因，而意外的发现表明，至少在非凸设置中，受到理论假设指导的构建可能导致较差的归因性能。该文提供了代码链接供参考。

Nov, 2023

该论文探讨如何使用算法稳定技术保护受版权保护的内容免受生成 AI 模型的影响，并指出只是采用这些技术并不能等同于保护版权内容。

May, 2023

研究了提高模型稳定性的各种技术，从而最小化机器学习中隐私化的负面影响。

May, 2024

机器学习模型的可靠性和可信度要求其决策具有可解释性，尤其在安全关键应用中，模型预测和解释（作为特征归因）对微小且不可察觉的输入扰动要具有鲁棒性。最近的研究表明许多归因方法是脆弱的，并提出了改进这些方法或模型训练的方法。我们观察到脆弱归因的两个主要原因：首先，现有的鲁棒性度量指标（例如，top-k 交集）对于合理的本地归因偏移进行了过度惩罚，因此使得随机扰动呈现出强攻击的效果；其次，即使图像中存在多个重要部分，归因可以集中在一个小区域中。为了纠正这一点，我们提出了一些简单的方法来加强现有的度量指标和归因方法，这些方法将像素的局部性纳入鲁棒性度量指标中，并将像素位置的多样性纳入归因中。关于模型训练在归因鲁棒性中的作用，我们经验证实对抗性训练的模型在较小的数据集上具有更鲁棒的归因，然而，在较大的数据集中，这种优势消失了。代码可在此 https URL 获得。

Dec, 2023

本文提出了一个学习算法 $A$ 和数据集 $D$ 的联合信用分配问题以及解决该问题的 Extended Shapley 模型，并通过实验验证了其在解决机器学习责任方面的应用。

Oct, 2019

研究机器学习算法偏差对预测精度的影响时，应考虑稳定性因素，本文提出了一种基于概念一致性的稳定性度量方法，讨论了稳定性、预测精度和偏差之间的关系。

Dec, 2002

本文研究了一种简单的乘法数据库转换方法，它可以利用随机线性或仿射变换对数据进行压缩，从而显著降低数据记录的数量，并保持原始输入变量的数量。通过差分隐私（Dwork 06）概念，本文提供了一个分析框架，旨在表明，尽管实现差分隐私保证存在一般的困难，但可以公开用于一些常见的统计学习应用的合成数据。这包括针对高维稀疏回归（Zhou et al. 07）、主成分分析（PCA）和基于初始数据协方差的其他统计测量（Liu et al. 06）

Jan, 2009

本文研究了在输入稳定性假设下的差分隐私聚类问题，提出了一种简单的算法，分析了其在 Wasserstein 距离和 k-means 代价等方面的效用，可直接应用于 “好” 的 k - 中位数实例和本地模型的差分隐私。

Jun, 2021

本文提出了一种数据发布框架 ——3A (Approximate, Adapt, Anonymize)，它能够最大化机器学习的数据效用，同时保持差分隐私与高效性。

Jul, 2023

本研究探讨机器学习模型的可靠特征归因方法的稳定性和多元平滑方法 (MuS) 的应用，证明了在足够 Lipschitz 模型的掩模特征下弱化的稳定性的保证，通过 LIME 和 SHAP 等特征归因方法的视觉和语言模型的评估，证明了 MuS 为特征归因方法提供了非平凡的稳定性保证。

Jul, 2023