紧凑图表示的重叠空间
本文提供了关于在推荐系统中应该在什么情况下使用超半径空间和超半径嵌入的理论分析和实证结果,包括何种类型的模型和数据集更适合于超半径空间,以及选择哪个潜在空间大小,同时提出了一种名为 SCML 和其超半径版本 HSCML 的新的基于度量学习的推荐方法,并在不同的潜在空间模型中,包括通用项目推荐领域和社交推荐领域,以及 6 个广泛使用的数据集和不同的潜在空间大小上比较欧几里得空间和超半径空间的性能,通过将 HSCML 与其他基线方法进行比较,展示了超半径空间的最新性能。
May, 2021
本研究构建双视图知识图谱嵌入模型,使用复杂非欧几里德几何空间模拟两个视图,并使用球体空间、双曲空间及其交集进行统一框架学习。该模型在公共数据集上表现优异,表明其在模拟知识图谱的异构结构方面的能力更强。
Sep, 2022
为了改善模型性能,最近的研究提出通过使潜空间的几何特征与基础数据结构对齐来提升机器学习模型。本文引入了一种使用 Gromov-Hausdorff 距离计算候选潜空间几何之间距离的新概念,提出了使用估计的 Gromov-Hausdorff 距离来搜索最佳潜空间几何的图搜索空间算法。本文描述了计算模型空间之间 Gromov-Hausdorff 距离的算法及其计算实现。
Sep, 2023
本研究提出了一种基于知识的多重自适应空间融合方法 (MCKG) 用于推荐,通过引入与双曲、欧氏和球形空间兼容的统一空间,并以注意机制融合多个统一空间,获得高质量嵌入以实现更好的知识传播。此外,提出了一种几何感知优化策略,使模型能够从双曲和球形空间中受益,通过在靠近原点的区域设置较小的边界值来区分高度相似的正向项目和负向项目,并在远离原点的区域设置较大的边界值以确保模型具有足够的误差容忍度。大量的实验结果表明,MCKG 在三个真实世界数据集上相较于最先进的推荐方法有了显著的改进。进一步的消融实验验证了多空间融合和几何感知优化策略的重要性,证明了 MCKG 的合理性和有效性。
Aug, 2023
本研究使用新的超几何嵌入方法学习文本数据中的词和句的嵌入,这些嵌入似乎编码了层次结构的某些直觉概念,然而,由于隐含的连续层次结构,这种模型更难以研究其学习层次结构的内部机制。
Jun, 2018
本文介绍了一种在超几何空间中学习自由文本词嵌入的算法,并使用基于超几何距离的目标函数在 word2vec 的 skip-gram 负采样架构中进行。实验结果表明在超几何空间低维度中,超几何词嵌入具有潜在优势,但在一些方面和欧几里得词嵌入没有绝对的优势。具体分析了在曲率空间中类比分析任务的些微差别。
Aug, 2018
通过将 M"obius gyrovector 空间的形式主义与 Poincarе模型的 Riemannian 几何相结合,我们提出了重要深度学习工具的超几何版本:多项式逻辑回归、前馈和循环神经网络。这样可以在超几何空间中嵌入序列数据并进行分类。实验证明,即使超几何优化工具受限,超几何句子嵌入在文本蕴含和噪声前缀识别任务中的表现要么优于,要么与欧几里得变体相当。
May, 2018
本文提出一种新的图嵌入一般化误差的上限,它作为距离表示的函数集的局部 Rademacher 复杂度的评估。我们的上限是几何半径 $R$ 的多项式,可以最快达到 $O (rac {1}{S})$,其中 $S$ 是训练数据大小。
May, 2023
本文针对数据具有分层结构的情况,提出了一个算法,通过对抗性示例注入的方式,有效地学习了一个能够在如下情况下使用的大边际超平面:数据具有分层结构,嵌入到双曲空间的性能不劣,且直接在双曲空间中学习分类器时的维度较低。
Apr, 2020