IJCAIFeb, 2019

加权内积表示学习实现通用相似度近似

PDF
TL;DR本文提出一种基于神经网络的图嵌入方法 —— 加权内积相似性，其能够优化相似度模型，学习任何相似度模型，且在节点表示学习和归纳任务中有高效表现。
neural networkgraph embeddinginner product similaritysimilarity modelsinductive tasks
发现论文，激发创造
  • 关于神经网络图嵌入的表示能力及其拓展

    本文提出了一种名为 SIPS 的新模型，通过在 Minkowski 空间内考虑内积，SIPS 能够很好地逼近各种条件正定的相似度，从而从理论上得出 SIPS 优于 IPS 的结论。

    May, 2018

  • 内积相似性连接的复杂性

    该论文系统研究了内积相似性连接问题，提出了新的上下界和基于线性草图的索引方法，并探讨了不对称性的影响。

    Oct, 2015

  • 大规模 3D 形状检索的损失设计反思

    本文提出了一种基于 CIP Loss 的形状嵌入方法，旨在解决大规模 3D 形状检索中的形状表示问题。实验结果表明，我们的方法在两个公共 3D 对象检索数据集上均取得了最先进的效果。

    Jun, 2019

  • 线性预测在感知度量中的非合理有效性

    通过加权最小二乘问题和嵌入空间，构建了一种感知嵌入方法，用于图像质量评估和感知任务，与深度学习特征方法有竞争力，并且计算成本相似。

    Oct, 2023

  • 关系函数和注意力机制的近似

    通过分析内积关系，研究了神经网络特征图的内积在模拟输入之间的关系方面的广泛应用，证明了多层感知器自身的内积是对称正定关系函数的普遍逼近器，而两个不同多层感知器的内积是非对称关系函数的普遍逼近器，并通过内积关系将任何抽象预订定义的检索机制近似为注意力机制，从而应用于分析 Transformer 背后的注意力机制。同时，利用经济学中的 Debreu 表示定理以效用函数的形式表示偏好关系。

    Feb, 2024

  • 词嵌入的维度性

    通过提出 Pairwise Inner Product (PIP) loss 提出了一种新的度量词嵌入非相似性的方法，并使用矩阵摄动理论揭示了词嵌入维度选择中的基本偏差 - 方差权衡，同时阐明了词嵌入过度拟合的鲁棒性。

    Dec, 2018

  • 通过对称和逐因子不变函数的通用架构，神经逼近瓦瓦斯坦距离

    本文提出了一种通用的神经网络架构来逼近对称函数，结合草图思想开发了一种能够逼近点集间 $p$-th Wasserstein 距离的特定和高效神经网络，经验结果表明该网络的性能明显优于其他模型，有望在解决各种几何优化问题中发挥作用。

    Aug, 2023

  • 点对点表征相似度

    本文提出了一种 Pointwise Normalized Kernel Alignment（PNKA）量化方法，用于分析个体输入在不同表征空间中的相似度，以更细粒度地理解深度神经网络的表征特征，并展示了 PNKA 在分析误分类输入示例、神经元概念编码和公平干预对表征特征的影响等方面的应用。

    May, 2023

  • 聚类在近似最大内积搜索中效率高

    本文主要探讨了最大内积搜索的效率问题，提出了一种基于 k 均值聚类算法的简单方法，在保证检索准确率的同时显著提高检索速度，并在两个标准推荐系统基准测试和大词汇量词嵌入上进行了实验证明。

    Jul, 2015

  • 多标签图像检索中的实例加权中心相似度

    通过最大熵规则，自动学习哈希码对应的中心权重，从而更好地反映图像前景实例的比例，进一步提高多标签图像检索的性能。

    Aug, 2021