训练数据归因的贝叶斯视角

May, 2023

A Bayesian Perspective On Training Data Attribution

Elisa Nguyen, Minjoon Seo, Seong Joon Oh

TL;DR本文研究了训练数据归因技术，并提出了基于贝叶斯视角的训练数据归因方法；作者观察到单个训练样本的影响往往被模型初始化和 SGD 批量组成等噪音所掩盖，只有在某些特殊情况下才能可靠地使用训练数据归因来解释模型预测结果。

Abstract

training data attribution (TDA) techniques find influential training data for the model's prediction on the test data of interest. They approximate the impact of down- or up-weighting a particular training sample. While conceptually useful, they are hardly applicable in practice, parti

training data attribution bayesian perspective model initialisation sgd batch composition noise factors

发现论文，激发创造

高效的集成改进训练数据归因

我们提出了两种高效的集成策略，DROPOUT ENSEMBLE 和 LORA ENSEMBLE，可以显著降低训练时间（高达 80％），服务时间（高达 60％）和空间成本（高达 80％），在保持与原有独立集成相似的归因效果的同时，有效地改善了计算效率和归因效果的 Pareto 最前沿。

May, 2024

通过近似展开的差分训练数据归因

通过引入类似影响函数的公式来计算，我们将基于隐式微分和展开的方法相连接，结合它们的优点，提出了一种名为 Source 的近似展开式 TDA 方法，该方法在计算上比展开式方法更高效，适用于隐式微分方法无法处理的情况，如非收敛模型和多阶段训练管线。在反事实预测方面，Source 在性能上优于现有的 TDA 技术，尤其是在隐式微分方法表现欠佳的情况下。

May, 2024

Simfluence：通过模拟训练运行来建模个别训练示例的影响

提出了一种名为 Simfluence 的新方法，旨在通过训练运行模拟器而不是单独的影响得分来研究数据示例之间非线性相互作用。该方法能够预测大语言模型微调中的损失轨迹，并比现有 TDA 方法提高了预测准确性。

Mar, 2023

解析图机器学习中拓扑数据分析的威力

我们详细测试了拓扑数据分析（TDA）的声称，并验证了其优点。我们的结果证实了 TDA 对异常值的鲁棒性和其解释性，并发现 TDA 在我们的具体实验中并没有显著提高现有方法的预测能力，同时增加了计算成本。我们研究了与图特征相关的现象，如小直径和高聚类系数，以减轻 TDA 计算的计算开销。我们的研究结果为将 TDA 整合到图机器学习任务中提供了宝贵的观点。

Jan, 2024

扩散模型的训练数据归因

使用编码集合的互补模型来评定如何影响扩散模型的输出，可提高模型可解释性，检验训练数据对于模型输出的影响，并作为生成模型

Jun, 2023

针对偏差缓解的有针对性数据增强

通过注入偏见进行训练，我们提出了一种名为 Targeted Data Augmentation（TDA）的创新有效方法来应对数据和模型中的偏见问题，通过随机引入偏见在训练过程中，我们成功减少了偏见度量，并在误差率几乎不增加的情况下达到了很大程度的改善。

Aug, 2023

DualView: 双重视角的数据归属

本研究介绍了一种基于替代建模的后续数据归因方法 DualView，它在计算效率和评估结果方面表现良好。通过使用适合的定量评估策略和相关的局部数据归因方法，我们发现 DualView 方法在需要较低计算资源的同时，表现不亚于其他方法。此外，该方法产生稀疏的解释，可以通过超参数进行调整。最后，我们展示了 DualView 可以将局部数据归因的解释与已有的局部特征归因方法兼容，并提供了在线的开源实现，以及与其他局部数据归因方法和此处报告的度量标准的实现，以便进行完全可复现性研究。

Feb, 2024

DTA: 基于分布变换的受查询限制场景攻击

该论文通过利用对抗示例的分布特征，以困难标签黑盒设置下的条件似然函数为依据建立统计映射，从而提出了一种基于分布变换的攻击方法（DTA），该方法可以无需频繁查询目标模型，直接且高效地生成一批对抗示例，用于攻击未知模型。实验验证了该方法的有效性和优越性。

Dec, 2023

卷积神经网络激活层拓扑结构实验观察

本文应用拓扑数据分析的前沿技术，通过量化内部表示之间的差异和绘制网络层次结构图等方法，探索了用于图像分类的深度神经网络的可解释性，并提供了实验证据证明这些方法能够捕捉到有关模型过程的可贵结构信息。

Dec, 2022

利用测试时间增强和一致性评估进行异常检测

本文提出一种针对神经网络对未知数据的检测算法，名为 TTA-AD，借鉴了一种新的观察方法，实验证明 TTA-AD 在不同高效图像基准数据集下，运行时间比现有基于分类器的算法下降了 60%~90% 且具有可比较或更好的检测性能。

Jun, 2022