ICLRDec, 2013

连续学习:使用特征代数工程超级特征

TL;DR本文研究的问题是在给定的训练数据集中寻找预测模型。我们提出了一种迭代过程,用于得到一系列不断改进的模型和对原始输入空间的一系列非线性特征。在有限的 N 次迭代后,非线性特征变成原始空间上 2^N - 次多项式。我们展示了在无限次迭代的极限情况下,导出的非线性特征必须形成一个联想代数:两个特征的乘积等于来自同一特征空间的特征的线性组合。由于每次迭代都包含解决一系列包含所有先前解的凸问题,因此随着每次迭代,模型的似然性逐渐提高,而模型参数空间的维数设置为一个有限的可控制值。