- 探索如暴风雨,利用如雨滴:关于利用坐标下降优化器对内核调度器进行精调的益处
通过将 AutoTVM 算法 Droplet Search 整合到 Ansor 的探索阶段中,我们展示了在减少搜索时间的同时提高内核质量的潜力。应用该方法于 Ansor 生成的前 300 个内核时,通常比允许 Ansor 分析 10,000 - 关于核函数的近似方法
统计学习中的各种方法建立在再生核 Hilbert 空间中的核上。在应用中,核通常根据问题和数据的特征进行选择,然后用于在未观察到解释性数据的点处推断响应变量。本文考虑了在高维紧致集合中定位的数据,并且对核本身的近似进行了讨论。新的方法考虑了 - 基于样本的通用表示器的解释
我们提出了一种称为广义代表器的基于样本的机器学习模型解释的通用类,其测量训练样本对模型测试预测的影响,使用两个组件:度量训练点对模型的重要性并对测试样本不变的全局样本重要性,以及使用核函数来衡量训练样本和测试点的相似性的本地样本重要性。本文 - 关于均场极限中的基于核的统计学习
使用机器学习中的大规模问题为背景,本论文针对输入变量个数趋向无穷大的情况展开研究。首先,我们完善了核和其再生核希尔伯特空间均值场极限的现有理论。接下来,我们提供了与这些核在均值场极限下逼近相关的结果,包括一个再现者定理。最后,我们将这些核应 - 无限宽度的图神经网络用于节点回归 / 分类
增加节点宽度对于图神经网络及其各种体系结构(如带有跳连接的图神经网络和图注意网络)的研究,并推导了相关的核和高斯过程闭合形式,应用于节点回归和分类任务,并使用谱稀疏化方法改善运行时间和内存需求。此外,研究还简要探讨了对于归纳图学习任务(如图 - MMD-FUSE: 无需数据分割的双样本检验内核学习和组合
本研究提出了一种基于最大均值差异(MMD)的双样本检验,通过适应其核集合,提出了新的统计量。我们进一步展示了这些核如何在无需数据拆分或置换而根据数据来选择,这项技术广泛应用于基于置换的 MMD 检验并包括深度核的使用。我们强调了 MMD-F - 通过正定核的条件均值嵌入和最优特征选择
运用新的算子理论方法,结合核函数、随机过程和建设性学习算法,我们提出了用于条件均值嵌入的基于谱分析的优化方案,在优化模型特征选择的过程中,利用正定核的凸集。
- 再生核希尔伯特空间的稳定性测试
通过研究 Mercer(连续)核在连续时间和整个离散时间类中,我们表明稳定性测试可以缩减到仅研究测试函数上的核算子,这些函数几乎可以在任何时候只取值于 1 和 - 1。因此,RKHS 稳定性测试成为单个线性时不变系统的 BIBO 稳定性的简 - 具有可保证灵活性的生物序列核函数
应用机器学习于生物序列 ——DNA、RNA 和蛋白质 —— 具有巨大的潜力推进人类的健康、环境可持续性和基础生物学的理解。因此,本研究旨在探讨这一问题领域中的挑战并提供修改现有基于核的机器学习方法以确保其准确性和可靠性的简单有效的方式。
- 高斯过程回归的直观教程
本教程旨在提供对高斯过程回归的直观理解。首先解释了构建高斯过程的基本概念,包括多元正态分布,核函数,非参数模型以及联合和条件概率。然后简要描述了高斯过程回归以及标准高斯过程回归算法的实现。除标准高斯过程回归外,还介绍了实现最先进的高斯过程算 - 利用概率和可微编程自动化 Involutive MCMC
该论文描述了一种自动化实现根据概率编程系统中的 Involutive MCMC 核函数的技术,并且利用此技术来检测用户在核函数规范中的错误并利用核函数中的稀疏性以提高效率。
- ICML无限关注:NNGP 和 NTK 用于深度注意力网络
通过 NNs 和 GPs 之间的等价性,研究多头关注层体系结构并评估其在 GP 中的应用,通过对注意力内核的评估,提出了改进的注意力机制,并介绍了新特性,将 NNGP / NTK 模型应用于变长序列。
- ICML使用变分随机特征学习学习内核
本文介绍了 MetaVRF,在元学习框架中引入随机傅里叶特征内核,利用它们强大的少样本学习能力。通过将随机特征基作为潜变量,我们提出了 MetaVRF 来学习自适应基学习器的内核。我们将 MetaVRF 的优化规定为一种变分推断问题,通过在 - NIPS模糊集合上的核函数:概述
该论文介绍了模糊集上的核的概念和其在相似度度量中的应用,提出了交叉积、交集、非单例和基于距离的模糊核等不同类型的核,并探讨了在包含本体和认知解释的不确定数据上应用这些核的机器学习和数据科学任务。
- 隐式核学习
本文旨在通过深度神经网络隐式生成模型来学习核函数谱分布,从而提高数据驱动的方法用于生成式对抗网络和监督学习等多种应用,通过 IKL 的应用,本文成功地在图像和文本生成测试中优于传统核函数,同时在有效取得超越现有先进核学习算法的成果
- 切片 Wasserstein 核用于持久图
本文提出了一种新的 persistence diagrams 的核函数,基于 Sliced Wasserstein approximation 方法,不仅具有稳定性,而且排斥性高,实用性强,并在多项基准测试中得到了验证。
- ICML从序列和图内核中导出神经网络结构
通过基于序列和图等组合结构的核来获得适当的神经操作,引入了一类深度循环神经操作并形式化表征其关联的核空间;在语言建模和分子图回归等标准应用程序上进行了实证评估,取得了这些应用程序的最新成果。
- 非线性结构向量自回归模型推断有效脑网络连接性
通过利用核函数来捕捉非线性因素,文章旨在通过构建线性结构向量自回归模型来扩展大脑连接研究的范围,并提供一种有效的正则化估计方法,以揭示感兴趣的大脑区域之间的先前未知的因果联系。
- 多任务和生命周期学习的核函数
本文针对使用在 SVM 分类器中的学习核在多任务和终身学习场景下的问题,提出了关于大边界分类器误差的泛化界限。我们的结果表明,在学习的核族群满足条件的情况下,在同时解决多个相关任务时比单个任务学习更为有效。特别是,随着观察到的任务数量的增加 - 卷积神经网络中用于图像分类的卷积核设计
通过对卷积核的形状与特征表示学习之间的关系的探究,结合实验结果和模拟视觉系统的观察,提出了一种新的卷积核形状设计方法,该方法在 ILSVRC-2012 数据集上减少了模型参数和计算时间,在 CIFAR-10/100 数据集上也优于现有的模型