通过引入一种交互感知的增强生成视角,我们重新定义特征空间重建为通过选择创建有意义的特征和控制特征集大小的嵌套过程,从而自动化特征和操作的选择以及特征交叉。通过结合统计度量,我们基于所选特征之间的相互作用强度奖励智能体,实现了对特征空间的智能和高效的探索,从而模拟人体决策过程。通过进行大量实验证实了我们提出的方法。
Sep, 2023
提出了一种自优化框架,用于固有特征空间的转换,以增强机器学习模型的泛化能力,通过使用强化学习来改善性能并比较不同的训练策略。
Sep, 2022
通过一种分组式强化生成视角,我们提出了一种用于自动化、显式性和灵活优化的特征生成和选择方法,基于级联的强化学习方法来学习特征生成和选择策略,从而重构表示空间,以提高模型泛化能力、克服数据稀疏性和增加经典模型性能。
May, 2022
特征转换是从原始特征中生成新的模式区分性特征空间,以提高下游机器学习任务的性能。本文通过将离散特征转换重新定义为连续空间优化任务,并开发了一个嵌入 - 优化 - 重构的框架,以填补现有方法在大搜索空间下搜索效率和稳定性之间的缺陷。
KRAFT 是一个 AutoFE 框架,利用知识图谱来指导生成可解释特征,通过神经生成器和基于知识的推理器结合的混合 AI 方法来提高预测准确性和生成特征的可解释性。实验证明,KRAFT 在提高准确性的同时保证了较高的可解释性。
Jun, 2024
本文提出了一种自适应选择重要特征字段的 AutoML 框架,该框架设计了一个可微的控制器网络,通过自动调整选择特定特征字段的概率来重新训练深度推荐模型,实验证明了该框架的有效性。
Apr, 2022
这篇研究论文讨论了如何通过强化学习来自动化特征转换,以解决维度灾难、数据稀疏性和模型泛化等问题,并提出了一种集成图形表示和增强学习技术的自优化框架来改进其效果和通用性。
Jun, 2023
逆向强化学习是一种从专家示范中学习奖励函数的模仿学习方法,通过使用线性组合特征表示奖励,借助多项式基函数形成特征候选集来解决连续状态空间中特征选择的问题,并利用轨迹概率与特征期望之间的关联对特征进行选择,实验表明该方法能够恢复捕获专家策略的奖励函数,适用于越来越复杂的非线性控制任务。
Mar, 2024
本研究提出将符号回归作为特征工程步骤与机器学习模型结合,通过在合成和真实物理相关数据集上进行大量实验,实证了 SR 派生特征的融合显著提高了机器学习和深度学习回归模型的预测能力,合成数据集 RMSE 有 34-86% 的改进,真实数据集有 4-11.5% 的改进,同时还在基于 Eliashberg 理论的超导临界温度预测中取得了 20% 以上的 RMSE 改进,这些结果突出了 SR 作为数据驱动模型特征工程组件的潜力。
Nov, 2023
研究如何在自动化特征选择中平衡有效性和效率。通过提出一个新的交互式增强特征选择框架,将特征选择问题形式化为交互式强化学习框架,该框架通过自我探索经验及多元化外部技术指导训练器,从而加速学习。此外,该研究利用多种不同搜索策略进行训练,并提出了一种混合教学策略来帮助智能体学习更广泛的知识。最后,对真实世界数据集进行广泛实验以展示该方法的性能改进。
Aug, 2020