Lorentz 模型下的连续层级超几何学学习
本研究使用新的超几何嵌入方法学习文本数据中的词和句的嵌入,这些嵌入似乎编码了层次结构的某些直觉概念,然而,由于隐含的连续层次结构,这种模型更难以研究其学习层次结构的内部机制。
Jun, 2018
通过将符号数据嵌入超载空间(或更确切地说是 n 维庞加莱球)来学习符号数据的分层表示的方法,通过实验证明 Poincare 嵌入在具有潜在层次结构的数据上显着优于欧几里得嵌入,无论是在表示能力还是泛化能力方面。
May, 2017
本文提出了一种名为 “超宾说外显”(HIE)的方法,通过使用节点到原点的超宾距离(即超宾范数)推导出的无成本分层信息来改进现有的超宾表示方法,并在各种模型和不同任务上的广泛实验中展示了该方法的多功能性和适应性。
Jun, 2023
介绍了基于超伽马空间表示的图形学习的前沿技术,并重点介绍了超伽马浅层模型和超伽马神经网络技术以及其组件变体的技术细节,同时讨论了超伽马几何图形表示学习的进阶主题。
Nov, 2022
该论文提出了一种基于 Poincaré ball 模型的统一框架,用于构建可伸缩、简单的超几何线性分类器,并给出了凸优化的解决方案,该算法在合成数据集和真实数据集上的表现均有很高的准确率。
Sep, 2021
本文提出了一种新颖的基于注意力的可学习曲率超几何分层知识图嵌入模型(HypHKGE),以在超几何空间中有效地建模知识图中的语义层次结构,并在低维度下表现出色,特别是在链接预测方面。
Apr, 2022
本文介绍了一种基于 Poincaré ball 模型的新型超似曲空间神经网络,该网络构建了多项式逻辑回归、全连接层、卷积层和注意机制,更高效地捕捉数据的分层结构,并在参数效率、稳定性和表现方面优于现有的超似曲组件及欧几里德同类模型。
Jun, 2020
在机器学习中,通过保留相关网络属性的低维嵌入学习图表示是一类重要的问题。本文提出了一种嵌入有向无环图的新方法,使用证明能够更好地模拟树状结构的双曲空间,并使用一组嵌套的测地凸锥来定义分层关系,并证明这些蕴含锥体在欧几里得和双曲空间中均具有一种优化的形式,而且它们可以规范地定义嵌入学习过程。实验显示,我们的方法在表示能力和泛化方面都比最近的强有力的基线有显着的改进。
Apr, 2018
本文针对数据具有分层结构的情况,提出了一个算法,通过对抗性示例注入的方式,有效地学习了一个能够在如下情况下使用的大边际超平面:数据具有分层结构,嵌入到双曲空间的性能不劣,且直接在双曲空间中学习分类器时的维度较低。
Apr, 2020
本文提出了一种基于洛仑兹模型的完全双曲框架,通过调整洛仑兹变换实现神经网络的基本操作,从而解决了现有双曲网络在欧几里德子空间进行操作的问题并证明了现有双曲网络的能力限制,实验结果展示了该方法在 NLP 任务中表现更优。
May, 2021