- 基于逻辑约束的多任务基于核的学习
该论文提出了一个通用框架,将在任务函数集合中以逻辑约束的形式的先验知识集成到核机器中,以及背景环境的部分表示,利用这些知识和监督示例中的信息与学习算法一起操作。
- MM将一阶逻辑嵌入核机器
本论文提出了一个通用框架,将监督和无监督示例与由一组一阶逻辑子句表示的背景知识集成到内核机器中,通过在示例上学习多个定义在一组对象上的谓词,并在其值的允许配置上强制执行一组 FOL 约束。
- 更具表现力的张量网络模型的量化傅里叶和多项式特征
在核机器的背景下,通过将数据映射到高维空间,多项式特征和傅里叶特征常用于为线性模型提供非线性扩展。本文提出一种基于特征量化的方法,可以对相关模型的权重进行量化,生成量化模型。通过这种额外张量化策略,增加模型的广义能力和正则化效果,同时在相同 - 多视角受限核机中的对偶性
本文提出一种统一的设置,将现有的有限制的核机器方法融合到一个单一的原始对偶多视角框架中,用于核主成分分析,无论是在监督还是无监督的情况下。作者从理论角度推导了框架的原始和对偶表示,并将不同的训练和推断算法互相关联。通过重新调整原始变量,作者 - Skyformer:高斯核与 Nyström 方法重构自注意力
本文提出了 Skyformer 模型,借鉴了核机器的计算方法,通过将 softmax 结构替换为高斯核以稳定模型训练,并将 Nyström 方法调整为一个非半正定矩阵以加速计算,实验结果表明该模型不仅需要的计算资源更少,而且在大规模 Are - 梯度下降学习的每个模型都近似一个核机器
我们展示了标准梯度下降算法训练的深度网络在数学上与核机器学习方法相当,这极大地增强了深度网络权重的解释性,从而导致更好的学习算法。
- 海量数据流中子模函数最大化问题的 $1/2$ 之外近似算法
该论文研究设计了一种流式亚模量最大化算法 SALSA,用于提取数据多样性、非参数学习、核机器、聚类等方面的大规模数据集的代表性摘要,取得了比现有算法更好的近似效果。
- 了解深度学习需要了解核学习
研究表明深度学习和浅层核方法在过拟合问题上表现相似,而不是泛化性能高的唯一因素,因此需要更深入地研究浅层核方法,以更好地理解深度学习。
- NIPS非线性学习算法特征重要性度量
本文提出了一种可以用于任意机器学习方法 (包括核机器和深度学习) 的 feature importance(特征重要性)的度量方法,可以用于不同层面的算法解释,因此可以提供更好的机器学习预测结果。
- 核矩阵预处理
提出了一种用于核机器的预处理共轭梯度方法,利用预处理器优化了核矩阵的条件数,提高了算法收敛性能和可扩展性。在迭代次数的极限下,该方法精确度高于现有的近似算法,同时在相同的计算成本下,该方法较之前方法表现更好。
- 深度卷积网络是层次化的核机器
该论文讨论了 i-theory 中典型层次结构的构成,提出现代 DCNs 可以与具有池化和非池化层次的核机器的层级架构完全等效,最终提出高效的结构猜想。
- 通过非参数散度估计在样本集上的核函数
该论文提出了一种基于核函数的机器学习算法,可以通过对数据集的分组进行处理,采用独立同分布的样本集作为数据点,利用非参数估计器提取核函数特征从而实现多种分类、回归和异常检测等任务。