Jun, 2024

核函数的共形变换：文本分类中的几何视角

PDF
TL;DR本文研究了共形变换对支持向量机中使用的核函数的影响，着重于文本文档分类任务，并引入了新的高斯余弦核和两种共形变换。研究结果表明，共形变换可以显著改善核函数的性能，特别是对于次优核函数，在线性核函数的 60%、高斯核函数的 84% 和高斯余弦核函数的 80% 的测试场景中都观察到了改进，从而明确了共形变换在提高核函数性能方面发挥了关键作用。
发现论文，激发创造
  • Arc-Cosine 核的分析与扩展用于大边界分类

    本文研究了一种最近提出的伪造大型神经网络计算的正定核族。作者采用微分几何工具来研究这些核的性质，具体地，分析了这些核引起的希尔伯特空间表面的几何特征。当该几何被描述为一个黎曼流形时，作者针对其度量、曲率和体积元素导出了结论。值得注意的是，他们发现这个族中最简单的核不允许这样的解释，因此研究了两个用于类神经网络计算的修改的核。作者在多个数据集上实验了这些新的核，并强调了它们在分类中的普遍趋势。

    Dec, 2011

  • 卷积神经网络中的子流形卷积核优化

    本文提出了新的核规范化方法，解释了该方法对 CNN 中核搜索空间的几何形状的影响，并证明了该方法几乎可以保证收敛于 CNN 分类损失的单一最小值，为图像分类基准测试提供了最先进的性能。

    Oct, 2016

  • 使用梯度下降逼近优化的拟合分类

    本文研究了使用最大预测效率作为优化目标训练归纳一致预测器（inductive conformal predictor）的方法，将对可用于分类的归纳一致预测器进行了特别关注，并在几个真实数据集上进行了测试，结果表明该方法在大多数情况下相对于基线一致预测器具有更高的预测效率。

    May, 2021

  • 符合性预测教程

    该论文介绍了通过使用过去的经验来确定新预测的置信水平的改造预测方法，该方法可以应用于任何生成标签预测的方法，并且包括一些数值示例。

    Jun, 2007

  • 利用线性变换进行度量和核学习

    本文研究了在高维数据情况下的度量学习问题，提出了一种基于 LogDet 距离的学习线性变换的框架，并证明了它可以被有效地核化以学习任意高维空间中的度量，同时还可以将广泛类别的凸损失函数类似地核化，以扩展度量学习的潜在应用。同时，我们证明了这种方法在计算机视觉和文本挖掘等真实世界问题中的有效性。

    Oct, 2009

  • 概率鲁棒可伸缩机器学习分类的整体预测

    通过引入得分函数的新定义和定义一组特殊的输入变量（conformal safety set），我们分析了可扩展分类器和一致预测之间的相似性，该安全集能够识别满足误差覆盖保证的输入空间模式，即在该集合中，观察到错误（可能不安全）标签的概率受到预定义的 ε 误差水平的限制。通过在网络安全中应用于识别 DNS 隧道攻击，我们展示了该框架的实际影响。我们的工作有助于发展概率稳健可靠的机器学习模型。

    Mar, 2024

  • 度量卷积：自适应卷积的统一理论

    使用隐式度量的球体来采样，提出了可解释的具有几何正则化的几何卷积方法，可以替换现有的卷积操作并在标准去噪和分类任务中表现出竞争性能。

    Jun, 2024

  • 从转换的未标记数据中提取的幺正群不变核和特征

    本文介绍了一种利用不变内积核解决数据转换问题的 SVM，以及一种基于单位群不变特征提取方法，实验证明了这些方法的有效性。

    Nov, 2015

  • 探究 softmax 层中的核函数用于上下文单词分类

    研究了在上下文词分类中使用内核函数代替内积函数的效果，通过在标准的语言建模和机器翻译任务上进行实验，探讨了不同内核设置对性能的影响，并研究了梯度属性、混合策略和消歧能力。

    Oct, 2019

  • 带有许多类别的类条件拟合预测

    本文提出了一种称为聚类置信预测的方法，该方法通过聚类类，将具有 “相似” 信心得分的类聚合在一起，然后在聚类水平上执行置信预测，进行分类问题中的更强的置信度验证，应用于多分类图像数据集中表现更加优秀。

    Jun, 2023