Oct, 2023

双曲图形对比学习的对齐和外壳各向同性

PDF
TL;DR基于超辐角的对比学习在学习高质量图嵌入中表现良好，通过设计对齐度量和均匀性度量，解决了生态树属性和泊松球边界处的各向同态问题，实验证明了该方法在监督学习和自我监督学习中的有效性。
self-supervised graph representationscontrastive learninggraph embeddinghierarchical data-invariant informationhyperbolic graph embedding
发现论文，激发创造
  • 通过超球面上的对准和均一性理解对比表示学习

    文章证明了反差编码的损失函数在无限时刻能够最优化归一化特征空间的相似度与均匀分布，并通过实验优化这两个特征的评估，在视觉和语言数据上显著提高效果。

    May, 2020

  • 双曲表征学习：再探和提高

    本文提出了一种名为 “超宾说外显”（HIE）的方法，通过使用节点到原点的超宾距离（即超宾范数）推导出的无成本分层信息来改进现有的超宾表示方法，并在各种模型和不同任务上的广泛实验中展示了该方法的多功能性和适应性。

    Jun, 2023

  • 超几何空间中图的神经嵌入

    通过在超宇宙中学习神经嵌入，可以在图结构数据中提高特征表达的性能，我们的实验证明了在自然几何形态下嵌入图可以显著提高多个实际数据集的性能。

    May, 2017

  • 通过困难负例采样理解双曲度量学习

    最近几年，将双曲几何方法融入计算机视觉领域的趋势日益增长。本研究调查了将双曲空间整合到度量学习中的效果，特别是在使用对比损失进行训练时。我们通过深入研究评估了使用混合目标函数的视觉变换器 (ViTs) 结果来解决现有文献中关于对比损失温度影响的问题，并提供了观察到的性能改进的理论分析。我们还揭示了双曲度量学习与困难负样本抽样的密切关系，为未来的工作提供了思路。我们的代码可在线获取。

    Apr, 2024

  • 学习分层嵌入的双曲包含锥

    在机器学习中，通过保留相关网络属性的低维嵌入学习图表示是一类重要的问题。本文提出了一种嵌入有向无环图的新方法，使用证明能够更好地模拟树状结构的双曲空间，并使用一组嵌套的测地凸锥来定义分层关系，并证明这些蕴含锥体在欧几里得和双曲空间中均具有一种优化的形式，而且它们可以规范地定义嵌入学习过程。实验显示，我们的方法在表示能力和泛化方面都比最近的强有力的基线有显着的改进。

    Apr, 2018

  • 曲率空间中的对比图聚类

    提出了一个新的端到端的对比式图聚类模型 CONGREGATE，通过构建一个理论上的异质曲率空间，并利用基于 Ricci 曲率的几何学图聚类方法，通过对比训练方法，成功地解决了图形聚类中的几何难点，并在真实世界中的图形上取得了最先进的成果。

    May, 2023

  • 超几何图表征学习：教程

    介绍了基于超伽马空间表示的图形学习的前沿技术，并重点介绍了超伽马浅层模型和超伽马神经网络技术以及其组件变体的技术细节，同时讨论了超伽马几何图形表示学习的进阶主题。

    Nov, 2022

  • 超几何扩散嵌入与距离用于分层表示学习

    本文提出了一种新的基于扩散流形学和双曲几何学的分层数据嵌入和距离测量方法，理论上可以恢复分层结构，并且在图嵌入基准和分层数据集上证明了其有效性和优势。

    May, 2023

  • HMSN: 使用理想原型进行聚类的双曲超球面自监督学习

    本文研究使用超几何流形来进行自监督学习中的原型聚类。作者扩展了遮蔽孪生网络以操作包含理想边界的超几何空间，并利用超几何投影来确保下游任务的表示保持超几何性。实验证明这种方法在极少样本学习任务中具有改进，并在低维线性评估任务中与欧几里得方法相当。

    May, 2023

  • 分层拓扑同构专业嵌入的图形对比学习

    通过引入知识蒸馏，我们提出了一种新颖的层次化拓扑同构专家嵌入图对比学习方法，用于增强 GCL 模型学习层次化拓扑同构专业知识，包括图层和子图层。与传统的 GCL 方法相比，我们的方法在贝叶斯分类错误上获得更紧的上界，并在真实世界基准测试中表现出了超越候选 GCL 方法的性能优势。

    Dec, 2023