为了更好地理解图像分类器的行为，本研究提出了一种方法 MoXI（模型交互解释），该方法通过有效且准确地识别一组具有高预测置信度的像素，采用了博弈论的概念、Shapley 值和像素之间的相互影响，既考虑了个别像素的影响，又考虑了像素对模型置信度的合作影响。理论分析和实验证明了我们的方法相比使用 Grad-CAM、Attention 展开和 Shapley 值的广泛使用的可视化方法更好地识别出对模型输出有高度贡献的像素。而之前的研究在计算 Shapley 值和交互作用时遇到了指数级计算成本的问题，我们在本研究中证明了这可以降低到线性成本。

Jan, 2024

使用 Shapley Taylor 交互指数 (STII) 分析语言模型和图像分类器中的非线性特征交互，并研究数据结构对模型表达的影响。结果表明，语言模型在成语表达中非线性特征交互增加，而依赖句法结构性更多的自回归语言模型使得 STII 随句法距离扩展。同时，图像分类器的特征交互直观地显示对象边界。这些跨领域的研究结果突显了解释性研究中跨学科合作和领域专门知识的重要性。

Mar, 2024

该论文提出了一种方法，可以将 Lie 群适配到高维数据集上，通过一个特定的模糊算子使推理可以逃脱局部最小值，鼓励发现稀疏的、最小距离的状态之间的变换，同时演示了如何在自然图像补丁和自然视频序列上进行变换学习和推理。

Jan, 2010

该论文提出一种称为 Shapley-Taylor 指数的方法来解决归因问题，并使用交互分布公理将其公理化，并将其应用于模型中以识别有趣的定性洞见。

Feb, 2019

本论文提出了 Myerson-Taylor 互动指数，将图结构内化到节点值和节点之间的互动值之中，并使用 Myerson-Taylor 结构感知图解释器（MAGE）基于二阶 Myerson-Taylor 指数识别影响模型预测的最重要模体。通过在各种图数据集和模型上进行广泛实验，我们证明了与现有方法相比，我们的方法始终提供更好的子图解释。

May, 2024

我们提出了一种变量重要性度量，基于博弈论中的 Shapley 值，用于量化黑盒函数中各个输入变量的影响。我们的度量基于观察数据分组来计算，连接了可解释 AI 领域的变量重要性度量和全局敏感性分析的函数分解方法，并引入了一个平方 Shapley 值，可以将原来研究中的 Shapley 效应分解到不同的观测数据组之间。

Nov, 2019

本文提出了一个简单统一、非渐进的本地收敛理论，涵盖了多个离散时间梯度基点动力学，分析表明，离对角线的相互作用项具有神奇的性质，既是一件好事，也是一件坏事，对网络训练进行了四个修正动态的稳定化，揭示了这些稳定技术之间的密切联系，并提供了有关学习率选择的详细特征描述。

Feb, 2018

采用基于李群变换器的代数方法实现场景的表征学习，能够自动发现场景中的独立对象和多种形状不变变换方式，从而实现场景简化。

Mar, 2022

本文提出一种扩展 Interaction-Transformation 方法的新函数形式，称为 Transformation-Interaction-Rational representation，通过对目标变量的变换，并使用两个 Interaction-Transformation 函数的有理数形式，提高了模型的近似能力。在大型基准测试中取得了与尖端性能相当的结果。

Apr, 2022

使用李群和李代数的结构与几何学，提出了一个框架，用来在大多数情况下处理几何变换的不规则群，重点关注李群 GL+(n, R) 和 SL (n, R)，以及它们作为仿射变换的表示。通过将 `较大的` 群分解为子群和子流形来实现不变积分和全局参数化。在这个框架下，我们展示了如何参数化卷积核来构建关于仿射变换等变的模型，并在标准的仿射不变基准分类任务上评估了我们模型的鲁棒性和越域泛化能力，结果表明我们的模型优于所有先前的等变模型以及所有胶囊网络提议。

Oct, 2023