本文提出了一种模型无关的方式来测试特征组和交互作用，并使用假设检验来评估特征对模型损失的影响，并使用层次化方法控制假阳性错误率，并应用于两个生物医学应用中的随机森林和LSTM神经网络模型分析。

Nov, 2018

本文研究了机器学习在医学影像分析方面出现的隐性分层现象，探讨了多种方法测量和描述该现象以及其对临床效果的影响，建议评估隐性分层现象应是医学影像中机器学习部署的重要组成部分。

Sep, 2019

该论文提出了特征重要性和特征影响的数学定义，并通过局部依赖曲线直接在数据上对其进行评估，证明其在预测任务中与现有特征选择技术具有竞争力。

Jun, 2020

本文通过针对 18 个软件项目和 6 个常用分类器的案例研究，评估了该研究中的 CS 和 CA 方法计算的特征重要性排名之间的一致性，发现不同的特征重要性方法计算相同数据集和分类器的特征重要性排名可能存在巨大差异，因此需要提出一些指南以及未来研究方向，例如需要进一步研究不同 CS 方法计算的特征重要性排名被先进的特征交互移除算法影响的程度。

Feb, 2022

本文提出一种新的特征重要性得分框架，通过将特征空间重新划分成可分离集合，从而统一了现有研究所存在的不一致性，实现了对机器学习算法的可解释性。

Jun, 2022

该研究提出了一种名为Data-IQ的框架来对医疗数据集中的具有相似特征但不同结果的患者进行数据分层，并将其分为易于预测、模糊和难以预测三个互斥组群，实验结果表明该方法能够有效地提高模型的性能和可靠性，并有助于相关领域的特征提取和数据集筛选。

Oct, 2022

针对高维、小样本的表格型生物医学数据，我们提出了一种 Weight Predictor Network with Feature Selection（WPFS）神经网络。该网络通过特征选择和参数减少来学习高维、小样本数据，具有较好的性能，并提供了有用的学习洞察。

Nov, 2022

本文介绍了一种名为MDI+的灵活的特征重要性框架，它使用广义线性模型（GLMs）和更适合给定数据结构的度量衡，并结合了额外的功能来缓解对加性或平滑模型的预测的已知偏差。经过广泛的基于数据的模拟和实际案例研究，并将MDI+应用于药物反应预测和乳腺癌亚型分类，结果表明，MDI+在提取预测基因方面优于现有的特征重要性度量，具有更高的稳定性。

Jul, 2023

解释机器学习算法的决策过程对模型性能提升和人类理解至关重要，通过评估单个变量的重要性来实现，甚至对于高容量的非线性方法，如深度神经网络（DNNs）。在高维设置中，引入了BCPI（基于块的条件排列重要性）作为一种新的通用框架来计算变量的重要性，具备统计保证并处理单个和群组情况。此外，通过将DNN架构扩展为适用于群组结构的次线性层，我们还引入了一种新的堆叠方法，以处理高基数群组，该方法在高度相关的群组中控制了一类错误，并在基准测试中展现了顶级准确性。此外，我们对大规模医学数据集进行了实际数据分析，旨在展示生物标志物预测方面的研究结果与文献的一致性。

Dec, 2023

通过从Kaggle竞赛中选择10个相关数据集，实现专家级预处理流程，并进行实验以量化模型选择、超参数优化、特征工程和测试时间适应的影响，我们的主要发现是：1. 数据集特定的特征工程后，模型排名发生了显著变化，性能差异减小，模型选择的重要性降低。2. 最新模型虽然取得了可衡量的进步，但仍然极大受益于手动特征工程，这对基于树的模型和神经网络都适用。3. 虽然通常认为表格数据是静态的，但样本经常随着时间的推移而收集，适应分布的变化即使在所谓的静态数据中也很重要。这些观点表明研究应关注数据为中心的视角，承认表格数据需要特征工程，并且通常具有时间特性。

Jul, 2024