May, 2024
异常梯度分析：通过无 Hessian 影响函数高效提升深度学习模型性能
Outlier Gradient Analysis: Efficiently Improving Deep Learning Model Performance via Hessian-Free Influence Functions
Anshuman Chhabra, Bo Li, Jian Chen, Prasant Mohapatra, Hongfu Liu
TL;DR在数据中心学习的经典情境下，通过分析和解决模型上的凸性假设和计算逆 Hessian 矩阵的计算成本的限制，建立了通过影响函数和异常梯度检测来识别有害训练样本的等价转换，从而扩展了影响函数的适用性，使其能够应用于非凸深度模型，并通过系统性实证评估验证了这一方法在不同任务中的有效性。