MASON:一种模型无关的物体框架
通过引入一种公理化博弈论的方法,本文针对排名任务的特征归因方法提出了 Rank-SHAP 算法,并通过多方案的计算效率和准确性评估以及与人类直观的一项用户研究,对算法进行了验证和分析。
May, 2024
本文提出了一种模型无关的基于实例的事后解释性方法,用于时间序列分类。该方法利用形状特征和 TimeGAN 为任意时间序列分类器提供对抗性解释。我们通过对 UCR 时间序列存档中的几个真实单变量时间序列分类任务进行验证,结果表明与最先进的方法相比,Time-CF 生成的对抗实例在近似性、可感知性、合理性和稀疏性四个解释性指标方面表现更好。
Feb, 2024
R-ANODE 是一种新的数据驱动,模型无关的共振异常检测方法,通过直接拟合信号组成的小且未知信号部分的标准化流,以及通过从边带学习得到的背景模型(也是标准化流)的固定,提升了异常检测任务的归纳偏好。它能够表现优于所有基于分类器的、弱监督的方法,以及先前的 ANODE 方法,该方法将密度估计器拟合到信号区域中的所有数据而不只是信号。我们展示了该方法是否能够学习到未知信号比例或固定的未知信号比例都能够很好地运行,并且即使信号比例的规定可能存在错误,它也具有鲁棒性。最后,通过学习到的信号模型,我们可以进行采样并获得对潜在异常的定性洞察力,这极大地增强了共振异常检测的可解释性,并为在数据中同时发现和表征新物理提供了可能性。
Dec, 2023
该研究介绍了一种用于有效且准确的模型无关异常解释的新方法,使用基于谓词的关联规则(PARs)来解释表格数据中的异常,通过用户研究证明,该方法比现有的模型无关解释选项更易理解和受欢迎,并通过在各种基准数据集上的实验证明 PARs 在计算效率和解释准确性上与最先进的模型无关方法相比具有竞争优势。
Dec, 2023
基于研究成果,我们提出了一种新的隐私感知性联邦学习方法 $ exttt {MaPP-FL}$,通过在客户端上利用模型压缩并在服务器上保持完整模型,实现了同时保护客户端和服务器隐私的功能,并取得了有竞争力的分类准确性。
Nov, 2023
通过数据为中心的视角解决概念漂移问题,提出了一个模型无关的时间域泛化方法,使用 COncept Drift simulAtor (CODA) 框架通过预测的特征相关矩阵模拟未来数据来训练模型,有效地实现了不同模型结构的时间域泛化。
Oct, 2023
我们介绍了原型生成,一种更严格和更健壮的特征可视化方法,用于针对模型不可知、数据独立的图像分类模型的解释性。我们展示了其生成能力,可以产生自然激活路径,从而反驳以往特征可视化算法由于不自然的内部激活而不可信的说法。我们通过定量测量生成的原型和自然图像的内部激活之间的相似性来支持这些说法。我们还展示了如何解释生成的原型所产生的重要见解,突出模型学习到的虚假相关性和偏见,这是定量方法在测试集上无法识别的。
Sep, 2023