本文提出了一个关于如何解释神经网络使用梯度下降算法泛化能力较强的假设Coherent Gradients，并支持该假设的启发式论证和简单实验证明。同时，该分析为防止过拟合提出了一种自然而然的梯度下降修改方法。

Feb, 2020

本文提出基于梯度的特征及使用线性模型将梯度与预训练网络的激活函数相结合用于深度表示学习，从而实现预训练网络对不同任务的高效适应，通过实验验证了该算法在不同网络结构下，在多个数据集的各种表征学习任务上获得了强大的结果并与理论分析相符。

Apr, 2020

使用对照例子作为监督信号，改进深度学习的训练方法，提高神经网络的泛化能力及性能。

Apr, 2020

该研究分析了模型 input-gradients 在解释性方面的问题，提出了将标准 softmax-based 分类器的 logits 重新解释为未归一化的数据密度，证明了 input-gradients 可以被视为隐含于判别模型中的类条件密度模型的梯度，并提出了通过 score-matching 来实现对隐含密度模型与数据分布的对齐的算法。研究表明，对齐隐含密度模型和数据分布可以提高梯度的结构性和解释性。

Jun, 2020

本文提出了一种基于反向传播梯度的神经网络不确定性度量方法，该方法可以有效地检测神经网络模型的不确定性，包括判断模型是否遇到了未知的输入，具有较高的检测准确性。

Aug, 2020

本文提出一种评估框架DiffROAR和MNIST半真实数据集BlockMNIST，用于检验模型对输入梯度的响应，研究表明采用对抗性模型可以更好的体现输入梯度的任务特征，这一发现为提高解释性提供了启示。

Feb, 2021

本文研究了深度神经网络并使用表示群流的概念及信息论技巧，分析了其非线性模型的学习机制和有效模型复杂性及超参数等参数的归纳偏置。

Jun, 2021

本文介绍了解释深度神经网络的渐变解释性方法，讨论了这些方法如何评估其鲁棒性以及鲁棒性在产生有意义的解释方面的作用，并探讨了渐变方法的局限性和选择解释方法之前应该考虑的最佳实践和属性。

Jul, 2021

通过使用半环，我们将反向传播算法推广到神经网络的梯度图的其他可解释统计量的高效计算，以识别深度神经网络中的重要特征、组件和自注意机制的路径。

Jul, 2023

本研究提出了一种基于梯度加权的Gradient Cam增强方法，通过改变梯度计算方式并结合期望梯度和核平滑的方法，解决了饱和现象和敏感性问题，从而构建更准确、局部、鲁棒的解释，并通过微调扰动分布来调节解释的复杂性和稳定特征选择。经过定量和定性评估验证了该方法的有效性。

Jun, 2024