- 构建贝叶斯逆问题的结构张量先验
通过特定的高斯先验,完全描述了结构化张量解的概率分布,包括均值向量和协方差矩阵,为贝叶斯反问题提供了一种新的先验方法。通过设计新的核函数并有效计算,实现了对汉克尔矩阵完成和手写数字图像分类器学习的两个具体问题的解决方案的可行性。
- 弹性参数推断空时霍克斯过程
发展一种快速灵活的参数推理技术,以恢复涉及空间 - 时间 Hawkes 过程的强度函数中的内核函数的参数。
- 核函数的共形变换:文本分类中的几何视角
本文研究了共形变换对支持向量机中使用的核函数的影响,着重于文本文档分类任务,并引入了新的高斯余弦核和两种共形变换。研究结果表明,共形变换可以显著改善核函数的性能,特别是对于次优核函数,在线性核函数的 60%、高斯核函数的 84% 和高斯余弦 - 使用特征融合和并行结构分类器增强文本无关说话人验证系统
提出了结合不同声学特征和支持向量机分类器的方法,以改善噪声环境下说话人验证系统的性能。结果表明,在干净语音或噪声存在的情况下,使用组合特征和组合分类器可以显著提高系统性能。最后,提出了多频带噪声去除技术作为预处理阶段,用以增强在嘈杂环境下的 - 一种评估最近邻分类的统一加权框架
我们首次全面且大规模地评估了经典的最近邻(NN)、模糊最近邻(FNN)和模糊粗糙最近邻(FRNN)分类方法,同时我们发现 NN、FNN 和 FRNN 都与 Boscovich 距离表现最佳,NN 采用 Yager 距离权重的方式可以达到与 - 通过链接实现内核密度估计的更强核心集界限
应用偏差方法和串联方法提供改进的核函数广泛类别 Coreset 复杂性的界限,并给出对于高斯核和拉普拉斯核,在数据集均匀有界的情况下,产生 O (√d/ε√loglog (1/ε)) 大小的 Coreset 的随机多项式时间算法,这是以前的 - 最大熵分布的高斯过程回归
最大熵分布、拉格朗日乘子、高斯过程、核函数和数据驱动的最大熵闭合问题的性能研究。
- 昂贵嵌套灰盒函数的贝叶斯优化
本文提出了一种灰盒优化算法,利用 Bayesian 优化框架和 optism-driven 算法,在常用 Kernel 函数下表现出收敛速度优异的特点,这个算法在常规黑盒算法之上大幅提高了全局最优解求解的速度。
- ICLR对比学习可寻找大致视角不变函数的最优基础
本文阐述了对比学习的核函数学习方法,将其应用于 PCA 表征中,证明其具有良好的泛化性能。研究基于正对偶马尔科夫链的特征值分解方法,经实验证明表征的准确性取决于核函数参数和增强强度。
- AAAI带收缩先验的组合稀疏高斯过程学习
本文提出了一种有效的方法:使用 Horseshoe 先验处理核函数的稀疏性来学习核组合,提供更好的匹配度和更短的计算时间。
- KDD离线化:针对核聚类的快速高效超参数搜索
本文研究核参数对核 $k$-means 聚类算法的影响,给出一下 RBF 核参数下界,建议使用基于快速近似指数函数的算法进行参数搜索,并提供了一种高效实现方法。实验结果证明了该方法能够有效地揭示一组丰富而有用的超参数值。
- 探究 softmax 层中的核函数用于上下文单词分类
研究了在上下文词分类中使用内核函数代替内积函数的效果,通过在标准的语言建模和机器翻译任务上进行实验,探讨了不同内核设置对性能的影响,并研究了梯度属性、混合策略和消歧能力。
- ICLR深度神经网络作为高斯过程
本文研究无限宽深层神经网络和高斯过程的等价性,提出一种计算高斯过程协方差函数的有效方法,并使用该方法在 MNIST 和 CIFAR-10 上进行了贝叶斯推断,在网络宽度增加时,训练神经网络的准确率和 GP 预测的不确定性分别增加,而有限宽度 - 深度核学习的表征定理
本文提供一种有限样本和无限样本再生核希尔伯特空间的(线性组合的)核函数连接的表现定理,将分析函数组成的机器学习算法的数学基础。同时,我们还展示了如何将连接的机器学习问题重构为神经网络,并说明了我们的表现定理适用于各种先进的深度学习方法。
- 具有循环结构的可伸缩深度核学习
提出了 GP-LSTM 模型,利用可闭合表达式内核,在保留高斯过程非参数概率优势的同时,完全包含了 LSTM 递归神经网络的归纳偏置,能够很好地用于处理序列数据,提升了自动驾驶等领域的预测准确性。
- 利用结构回收随机性进行次线性时间核扩展
提出一种方案,通过随机嵌入将高斯随机向量回收到结构化矩阵中,以实现对各种核函数的近似,该方案可在亚线性时间内完成。其中包括 Fastfood 构造作为特例,还可扩展到周而复始、托普利兹和汉克尔矩阵以及广泛的结构化矩阵家族,该矩阵家族的特征在 - 编写分类器:从非结构化文本预测视觉分类器
本篇研究提出并探究了四种基于回归和领域转移算法的方法以及在分布语义下基于内核函数的文本描述预测可视化分级任务,并在 CU Birds 和 Flower 数据集上成功预测了可视化分类器。
- 带 l1 范数的再生核 Banach 空间
本文针对稀疏学习,构建函数 Banach 空间 B,该空间对于输入空间 X 中的可积函数采用计数测度下的 l1 范数与 B 等距同构;同时,点评价运算是 B 上的连续线性泛函,并且可表示为具有核函数的双线性形式;最后,本文证明了在 B 上正