学习分布式文本属性表示的乘法模型

ICMLJun, 2014

学习分布式文本属性表示的乘法模型

A Multiplicative Model for Learning Distributed Text-Based Attribute Representations

Ryan Kiros, Richard S. Zemel, Ruslan Salakhutdinov

TL;DR通过在单词嵌入中联合学习文本特征的分布式表征的一般框架，我们提出了一种第三阶段模型，其中单词环境和属性向量相互作用以预测序列中的下一个单词，并通过情感分类、跨语言文本分类和博客作者归因等多个实验任务进行了评估。

Abstract

In this paper we propose a general framework for learning distributed representations of attributes: characteristics of text whose representations can be jointly learned with word embeddings. Attributes can correspond to document indicators (to learn sentence vectors), language indicat

distributed representations word embeddings attribute vectors conditional word similarity sentiment classification

发现论文，激发创造

情感分类中属性表示与注入的反思

通过使用 BiLSTM 与注意力分类器限制了基础模型并专注于如何在嵌入、编码、注意力和分类器四个方面注入属性，将属性表示为块状重要性权重矩阵，并通过实验表明，我们的方法在标准方法之上取得了显著的改进，并且在注入属性方面，注意机制是最差的位置之一，同时我们也在超越最先进的方法，证明这个表示也对其他任务具有通用性。

Aug, 2019

属性对齐：控制预训练语言模型的文本生成

提出一种简单而灵活的方法，通过对齐分离的属性表示，控制文本生成，用于控制情感极性或特定主题的目标属性。与之前的方法不同，我们使用相同的数据学习对齐函数，而不是通过训练鉴别器来扰动属性的令牌级分布。我们在情感极性和主题控制生成上评估了我们的方法，并表现出大幅度的性能提升，同时保持流畅性和多样性。

Mar, 2021

属性化多层异构网络的表示学习

本研究提出一个统一框架用于学习复杂网络的多种嵌入表示，包括不同属性节点和多样的边类型，支持基于图的归纳和转导学习，通过对四个数据集的系统评估，证明了该框架的有效性和效率以及在阿里巴巴公司推荐系统上的应用。

May, 2019

控制生成文本的发展

本文旨在通过学习简化的语义分离潜在表示来生成和控制自然语言句子，同时通过变分自编码器和全局属性判别器的组合来建立新的神经生成模型。该模型具有可解释性和高效性，可以生成符合要求的具有各种属性的句子。量化评估验证了该模型的生成准确性。

Mar, 2017

通过编辑纠缠隐式表示实现可控非监督文本属性转移

我们提出了一种基于 Transformer 自编码器和快速梯度迭代修改算法的非监督文本属性转移框架，可在不使用任何平行数据的情况下更改特定属性，同时保留其属性独立内容，并且能够灵活控制转移程度和同时转移多个方面。

May, 2019

多属性文本风格转换

本文提出一种控制文本数据中多种因素变异的模型，用回译机制代替对解缠缠绕的限制，实现对性别、情感、产品类型等多个属性的控制，并通过在潜空间中的池化运算使内容保留和风格变化之间的权衡更加精细，进一步拓展了去耦合框架的应用范围。

Nov, 2018

Label2Label: 多属性学习的语言建模框架

该论文提出了一种名为 Label2Label 的简单而通用的框架，用于利用分类属性之间的复杂相关性，在多属性学习方面取得了出色的成果。

Jul, 2022

层次化神经语言模型：流文档及其内容的联合表示

采用嵌套的神经语言模型构建的分层框架可以同时学习文档和单词的分布式向量表示，该模型在数据流中取得了有效的结果，并可以通过添加用户层来学习个性化的偏好向量

Jun, 2016

学习主题敏感词表示

该论文提出使用分层狄利克雷过程学习每个单词的多个主题敏感表示的两种方法，通过模拟主题并集成每个文档的主题分布，可以得到能够区分给定单词不同含义的表示。该模型在词汇替换任务中表现出统计学显著的改进，表明常用的单词表示即使与上下文信息结合使用，也不足以完成该任务。

May, 2017

搜索中的多意图属性感知文本匹配

通过多意图建模、属性感知编码和意图感知匹配等方法，我们提出了多意图属性感知匹配模型，旨在探索文本匹配系统中属性的有效性，以提高搜索查询与候选项的匹配效果。

Feb, 2024