使用数据驱动的框架，结合变分自动编码器和稀疏非线性动力学识别的变分版本，提出了一种解释性和可靠的降阶模型构建方法，并进行了不确定性量化。通过英文缩写 VENI、VINDy 和 VICI 展示了该方法在识别可解释和准确的动力学系统以及对结构力学和流体力学的性能测试时的有效性。

May, 2024

该研究使用生成模型和深度学习来构建基于物理系统的仿真模型，通过引入 inVAErt 网络，利用确定性编码器和解码器来表示正向和逆向解决方案映射，结合归一化流来捕捉系统输出的概率分布，以及变分编码器来学习输入和输出之间的紧凑潜在表示。研究对损失函数中的惩罚系数选择和潜在空间采样策略进行了正式研究，并通过广泛的数值实例验证了该框架，包括简单线性、非线性和周期性映射，动力系统和时空偏微分方程。

Jul, 2023

综合应用于各个领域的计算机视觉不断发展，对深度学习模型的可解释性提出了迫切要求。本研究提出了一种新颖的方法 ViTree，用于细粒度视觉分类，该方法将流行的视觉转换器作为特征提取骨干，与神经决策树相结合。通过遍历树路径，ViTree 有效地从转换器处理的特征中选择补丁，突出显示有信息的局部区域，从而逐步改进表示。相比于以前依赖软分布或路径集合的基于树的模型，ViTree 选择单一树路径，提供了更清晰简单的决策过程。这种补丁和路径选择性增强了 ViTree 模型的可解释性，使其能更好地理解模型的内部工作机制。经过广泛实验证明，这种简化的方法超越了各种强有力的竞争对手，并在维持卓越可解释性的同时取得了最新的性能，这一点通过多视角方法得到了证明。

Jan, 2024

EL-VIT 是一种交互式可视化分析系统，可以帮助 ViT 用户理解 ViT 的工作机制，通过四个层次的可视化视图展示 ViT 的模型架构、操作过程和数学运算，以及计算图块之间的余弦相似度。

Jan, 2024

研究了深度学习方法面临的可解释性困境，提出了一种叫做 “深度视觉解释” 的框架，通过可视化技术来识别和暴露深度学习模型性能行为的假设，以提高模型的可解释性和可调试性，并展示了初步的可解释性应用实验结果。

Nov, 2017

本文介绍了 VL-InterpreT，一种可视化工具，通过跟踪关注头中的各种统计信息、可视化跨模态和内模态注意力热力图、以及绘制视觉和语言标记的隐藏表示，来提供多模态转换器中的注意力和隐藏表示的解释。文中使用 KD-VLP 模型根据 Visual Commonsense Reasoning（VCR）和 WebQA 等视觉问答基准展示了 VL-InterpreT 的功能，同时介绍了通过使用该工具学到的有关多模态转换器行为的一些有趣发现。

Mar, 2022

我们提出了一种叫做 XLVINs 的新方法，它通过结合对比自监督学习、图表示学习和神经算法推理等新方法，成功地在一般环境中部署了 VIN 风格的模型，克服了目前主要存在的局限性，同时匹配了在固定和已知的离散 MDP 情况下的 VIN 模型的性能，并在三个一般的 MDP 设置上提供了显著的模型无关基线改进。

Oct, 2020

我们引入了一种新的培训过程，通过训练促进模型的可解释性，从而解决 Vision Transformers 在解释性方面的不足，并提出了 IA-ViT 模型，通过单头自注意机制提供忠实的解释，有效地应用于几个图像分类任务。

Sep, 2023

本研究提出了一种名为 VAIN 的新型关注架构，用于多智能体预测建模，并在多个挑战性任务领域（例如国际象棋和足球）中进行了评估，与其它多智能体方法相比表现更优秀。

Jun, 2017

人们对于多模态大型语言模型及其内部机制的理解仍然是复杂的任务，因此该研究提出了一个新颖的交互应用来提高图像补丁的可解释性，并评估语言模型将输出与图像联系起来的效果，通过系统性地研究模型来发现系统的局限性，为提升系统功能铺平道路，案例研究证明该应用在理解流行的大型多模态模型（LLaVA）故障机制方面的作用。

Apr, 2024