Aug, 2016

指数家族嵌入

PDF
TL;DR本文提出了基于指数族分布的 Word Embeddings 方法，并在神经科学、市场篮子分析和电影推荐系统等领域进行了应用实例研究。该方法能更好地重构保持数据并找到有趣的定性结构。
word embeddingsexponential family embeddingsneural datamarket basket analysismovie recommendation system
发现论文，激发创造
  • 指数族图嵌入

    本文提出了一种基于随机游走的网络表征学习技术，使用指数族分布来捕捉节点之间的丰富交互模式，并研究了该模型的三个具体实例，实验结果表明该技术在两个下游机器学习任务中胜过基线方法。

    Nov, 2019

  • 分组数据的结构化嵌入模型

    研究使用指数族嵌入的结构化指数族嵌入方法，成功地发现与相关数据组不同的嵌入。 研究表明，这种方法具有共享统计信息的优势，并且以国会演讲、购物和摘要等作为实证研究的应用场景。

    Sep, 2017

  • 动态伯努利嵌入在语言演化中的应用

    本文提出了动态词嵌入的概率框架，通过分析三个历史文本集合，证明了动态词嵌入提供比传统词嵌入更好地适应和更好地捕捉语言变化的有趣模式。

    Mar, 2017

  • 深度指数族模型

    该研究提出了一种有层次依赖逻辑结构、基于深度神经网络的潜变量模型 —— 深度指数族，使用黑盒变分推理技术进行推断，结果表明在多层情况下 DEFs 的预测性能优于最先进技术模型，能够在大数据集中发现有趣的探险式结构。

    Nov, 2014

  • 零样本学习的简单指数族框架

    提出了一个简单的生成模型框架，用于学习预测以前未见过的类，该模型通过估计门限类条件属性分布来实现，与大多数现有的零样本学习方法不同，我们的生成模型自然地将每个类表示为概率分布，可以无缝扩展到少样本学习，并通过在训练过程中使用来自未见过的类的未标记数据提高其条件分布的估计效率。

    Jul, 2017

  • 可扩展的嵌入：适用于 LLM 上下文长度的灵活乘数

    通过利用高信息密度的紧凑输入单元，可实现对大范围上下文的访问，使得可拓展嵌入成为高效、灵活且兼容的方法来扩展大语言模型的上下文。

    Feb, 2024

  • 动态语境词嵌入

    本研究提出基于预训练语言模型的动态情境词向量，能够以语言和非语言环境为依据来表征单词的含义变化，并在四个英文数据集上做出定性和定量分析，以彰显其应用潜力。

    Oct, 2020

  • 动态词向量

    该研究提出了一种基于概率的语言模型，可以跟踪个别单词随时间的语义演变，并通过嵌入空间中的潜在轨迹表示单词和上下文。研究发现，该动态模型推断的单词嵌入轨迹更易解释，并且具有更高的预测性可能性。

    Feb, 2017

  • 上下文嵌入概述调查

    该综述评估了现有的上下文嵌入模型，跨语言多语预训练，上下文嵌入在下游任务中的应用，模型压缩和分析。

    Mar, 2020

  • 贝叶斯指数族投影用于耦合数据源

    该文章介绍了将指数族扩展应用于多视角学习方法中，它基于 EPCA 的矩阵分解，以指数族的自然参数表示，同时提出了一种新的可用于所有因子分解的先验分布族，并演示了当高斯分布假设不成立时它的优越性。

    Mar, 2012