本文介绍了信息论特征选择方法的现状，阐明了特征相关性、冗余性和补充性（协同作用）的概念，以及马尔科夫毯子。定义了最优特征选择的问题。我们描述了一个统一的理论框架，它可以使成功的启发式标准符合相应方法所做的近似。还介绍了该领域中的一些未解决问题。

Sep, 2015

本研究提出了一种将互信息准则与前向特征选择策略相结合的方法，在平衡所选特征子集的最优性和计算时间方面具有很好的折衷。同时，为了解决互信息估计器的参数设置和决定何时停止前向过程等问题，使用了重采样方法、K 交叉验证和置换检验。这一程序在合成数据集和实际案例中进行了演示。

Sep, 2007

提出了一种基于动态特征选择（DFS）和条件互信息的特征选择方法，该方法使用了一种基于分摊优化的学习方法，并在实验中表现出优于其他特征选择方法的性能。

Jan, 2023

本文介绍了一种基于信息论的动态特征选择方法，通过学习选择策略实现特征效益的高效获取。与现有最先进方法相比，该方法在各种数据集上都提供了一致的收益。

Jun, 2023

此篇论文提出了一种基于粗糙集的数据挖掘方法，实现了特征选择、分类和知识表示，通过相对重要性提出了粗糙集的效率和准确性，为知识表示和分类提出了粗糙概念树。实验结果表明，该框架比七种流行的或最新的特征选择方法具有更高的准确性。

Dec, 2021

本文提出了一种通过增加独特关联系统来改善高维数据集下特征选择的方法，并提出了两个方案来评估独特关联性。实验结果表明，提出的方法可以在减少特征数量的同时提高分类性能，其对分类器性能的依赖性相对较低。

Dec, 2022

本文针对标签信息有限的情况，提出了基于互信息和纯探索多臂老虎机的主动特征选择算法，并通过实验证明了其有效性。

Dec, 2020

深度模型中的特征压缩与远程推理任务之间的关联性，通过互信息作为特征重要性度量，进行硬选择和软选择实验并与其他方法进行比较，提供多目标分析来深入研究。

May, 2024

评估了使用不同的特征选择方法（信息增益、卡方检验、递归特征消除、平均绝对偏差和离散比）提供的特征集在多个 IoT 网络数据集中的影响，以提高计算机效率。结果显示在保持良好泛化能力的同时，提高了机器学习模型的计算效率，对于每个数据集识别出了最具影响力的特征，并且特征集之间几乎没有差异。

Jun, 2024

本文提出了一种名为 MIC 算法的层次聚类数据的方法，采用相互信息作为相似度度量，并利用其聚组特性。将此方法应用于从线粒体 DNA 序列构建系统发育树以及独立成分分析（ICA）的输出。

Nov, 2003