Mar, 2024

REFRESH: 由 SHAP 值指导的负责任和高效的特征重新选择

PDF
TL;DR该论文介绍了特征重新选择的问题，提出了一种名为 REFRESH 的方法，利用 SHAP 值和相关性分析来重新选择特征，从而在不必训练多个新模型的情况下实现对模型性能的额外约束，实证评估结果表明 REFRESH 能够有效地找到具有更优模型特性的替代模型，并基于监管目标讨论了重新选择和 REFRESH 的需求。
发现论文，激发创造
  • 一种基于 Shapley 值且对回归中概念漂移具有鲁棒性的特征选择方法

    本文提出了一种新的特征选择方法，使用 Shapley 值来研究每个变量对预测的影响，以应对数据集漂移和变量关系变化的情况，并通过分析电力市场的例子进行验证。

    Apr, 2023

  • AutoField: 深度推荐系统中的特征选择自动化

    本文提出了一种自适应选择重要特征字段的 AutoML 框架，该框架设计了一个可微的控制器网络，通过自动调整选择特定特征字段的概率来重新训练深度推荐模型，实验证明了该框架的有效性。

    Apr, 2022

  • 制表深度学习特征选择性能驱动基准

    通过使用真实数据集和多种生成多余特征的方法，我们构建了一个具有挑战性的特征选择基准，对包括 Transformer 在内的下游神经网络进行评估，同时提出了一种基于输入梯度的神经网络 Lasso 变体，相较于经典的特征选择方法在选择受损或二阶特征的挑战性问题上表现出更好的性能。

    Nov, 2023

  • 可解释人工智能中特征相关性量化：因果问题

    讨论了使用 Shapley 值量化特征相关性的最新研究进展，针对哪种概率分布是适用于删除特征的正确之一存在一些混淆，建议根据 Pearl 对因果关系的重大工作进行澄清，得出无条件的期望是正确的删除特征概念的结论，SHAP 软件包的部分内容受到影响，因为被用作近似条件期望的无条件期望（我们认为这是概念上正确的），促使其他人以我们认为是有缺陷的方式 “改进” SHAP。

    Oct, 2019

  • 无监督特征选择方法的性能分析

    本文比较了不同算法在特征选择方面的效果，结果表明 PCA、Rough PCA、USQR 和 EDR 算法能够快速筛选出对数据分类最相关的特征。

    Jun, 2013

  • 通过多样性感知交互式强化学习实现的自动特征选择

    研究如何在自动化特征选择中平衡有效性和效率。通过提出一个新的交互式增强特征选择框架，将特征选择问题形式化为交互式强化学习框架，该框架通过自我探索经验及多元化外部技术指导训练器，从而加速学习。此外，该研究利用多种不同搜索策略进行训练，并提出了一种混合教学策略来帮助智能体学习更广泛的知识。最后，对真实世界数据集进行广泛实验以展示该方法的性能改进。

    Aug, 2020

  • 负责任机器学习的因果特征选择

    通过识别具有因果效应的特征并区分因果关系和相关性，因果特征选择被认为是确保机器学习模型在高风险应用中担负伦理和社会责任的独特方法。

    Feb, 2024

  • 通过单个预训练的加强代理指导的仿制品特征选择

    我们引入一种创新的特征选择框架，通过强化学习，以模拟特征和经优化的 “knockoff” 特征指导特征选择过程，从而识别出最优和有效的特征子集。

    Mar, 2024

  • 一种用于机器学习中的高维数据集的基于对比的特征选择算法

    通过选择最具信息量的特征并消除无关的特征，我们提出了一种新的基于差异性特征的滤波特征选择方法 ContrastFS，该方法能够在大型数据集上有效地降低计算成本，而且性能优于其他最先进的特征选择方法。

    Jan, 2024

  • ERASE：深度推荐系统特征选择方法的基准测试

    该研究论文提出了 ERASE，一种用于深度推荐系统的全面特征选择基准，通过对 11 种特征选择方法进行综合评估，涵盖了传统和深度学习方法，跨越四个公共数据集、私人工业数据集和一个真实的商业平台，取得了显著的改进。

    Mar, 2024