Apr, 2024

Binder: 通过二进制向量的顺序嵌入进行层次化概念表示

PDF
TL;DRBinder 是一种新的基于顺序的表示方法，通过使用二进制向量进行嵌入，具有比其他方法小一个数量级的紧凑嵌入向量，并且使用线性时间复杂度的简单有效的优化方案进行向量学习，具有在表示任务中具有竞争力的准确性，而在传递闭包链接预测任务中，与其他基于顺序的方法相比，Binder 可以仅通过直接边学习概念嵌入。
发现论文，激发创造
  • 有序和二进制说话人嵌入

    本研究提出了一种有序二进制嵌入方法，通过嵌入向量中的维度排序并通过 Bernoulli 抽样将排序向量转换为二进制代码，从而实现说话者识别等任务中层次聚类，减少存储空间和加快检索速度。在 VoxCeleb 和 CN-Celeb 数据集上的实验证明了这些优点。

    May, 2023

  • 神经概念绑定器

    以无监督方式生成离散概念表示的神经概念绑定器介绍了 “概念槽位编码”，通过对象中心块槽位编码的软绑定和基于检索的推理的硬绑定，使得概念检查和外部知识的直接整合更加简便，同时展示了硬绑定机制对性能的不损害，并可无缝集成于神经和符号模块，用于复杂推理任务，如在新引入的 CLEVR-Sudoku 数据集上所验证。

    Jun, 2024

  • 图的伯努利嵌入

    通过将图表数据的嵌入视为不同偏置下的独立硬币翻转，应用持续优化技术来获得二元向量的简单且有效模型，得出了优于谱图嵌入和各种学习实值嵌入的量化结果，可以显著降低图表数据检索的延迟。

    Mar, 2018

  • 层次密度排序嵌入

    本论文提出了一种基于概率密度的单词嵌入模型 —— 密度顺序嵌入模型。该模型通过实现简单而有效的损失函数和距离度量以及基于图的方案选择负样本，学习到分层的概率密度表示。实验结果表明，此方法在 WordNet 层级关系预测任务和 HyperLex 语义蕴涵数据集上表现出了最先进的性能，并保留了丰富而可解释的密度表示。

    Apr, 2018

  • 学习概念嵌入以实现高效的概念密集化

    本文介绍一种利用神经嵌入模型生成连续概念向量并以此聚合生成完全连续性 Bag of Concepts 表示方法的技术，用以解决目前 Bag of Concepts 表示方法低概念重合度所导致的相似度分数偏低问题，并在实验中展示了在实体语义关联度、概念分类和无数据文件分类等领域上相对于其他模型的卓越性能。

    Feb, 2017

  • 向量空间中的层级：定向词和图嵌入

    本文介绍一种从无序平面嵌入空间中捕捉层次结构信息的数据结构算法，基于权威性分布的想法构建有向根树，用于识别单词的上位词关系和寻找共同祖先，同时在维基页面链接恢复方面表现出优异的性能。

    Nov, 2022

  • Poincaré 嵌入用于学习分层表达

    通过将符号数据嵌入超载空间（或更确切地说是 n 维庞加莱球）来学习符号数据的分层表示的方法，通过实验证明 Poincare 嵌入在具有潜在层次结构的数据上显着优于欧几里得嵌入，无论是在表示能力还是泛化能力方面。

    May, 2017

  • 预测常识本体的改进表示学习

    本文研究了利用学习表示的空间的内在几何结构来实现自动遵守复杂结构约束的本体 (分层和部分有序结构) 学习的最新工作，并探讨了对一种此类模型的两种扩展，旨在提高通识知识表示文本数据的性能。通过混合学习排序关系和非分层知识，以及利用训练数据的部分有序结构找到在配对训练过程中不好执行的嵌入之间的长距离 triplet 约束，我们发现这两种扩展都优于原始的 order-embedding 模型和其他强基线模型。

    Aug, 2017

  • 复杂嵌入中的单词顺序编码

    论文提出一种利用复数来编码单词相对位置和顺序信息的方法，将其应用于依赖顺序的自然语言处理任务中，实验表明相较于传统单词向量和位置嵌入向量，该方法有更好的表现。

    Dec, 2019

  • 图像和语言的序列嵌入

    本文倡导明确模拟视觉 - 语义层次中的偏序结构，介绍一个学习有序表示的通用方法，并展示了如何将其应用于涉及图像和语言的各种任务中，特别是超义预测和图像字幕检索，结果表明得到的表示优于当前方法。

    Nov, 2015