面向结构化数据的语法导向变分自编码器

ICLRFeb, 2018

面向结构化数据的语法导向变分自编码器

Syntax-Directed Variational Autoencoder for Structured Data

Hanjun Dai, Yingtao Tian, Bo Dai, Steven Skiena, Le Song

TL;DR通过引入 stochastic lazy attributes，提出了一种基于语法制导的变分自编码器以捕捉离散结构的语法和语义约束，并使用编程语言和分子优化等应用程序对其进行了评估。

Abstract

deep generative models have been enjoying success in modeling continuous data. However it remains challenging to capture the representations for discrete structures with formal grammars and semantics, e.g., computer programs and molecular structures. How to generate both syntactically

deep generative models syntax-directed variational autoencoder stochastic lazy attributes programming language molecules

发现论文，激发创造

语法变分自编码器

本文介绍了一种使用基于上下文无关文法的句法树进行编码和解码的变分自编码器，用于生成离散数据，此方法可以保证生成数据的有效性，并在符号回归和分子合成的贝叶斯优化中展示出更好的性能。

Mar, 2017

从解耦的句法和语义空间生成句子

本文提出了一种基于变分自编码器的模型，通过在模型的潜在空间中使用线性化树序列显式建模句法信息，从而生成来自分离的句法和语义子空间的句子，并能应用于无监督的释义生成和句法转换等任务，实验结果优于现有相关工作。

Jul, 2019

具结构离散表示的深度生成模型的无偏学习

通过将图形模型与深度学习架构组合，我们学习具有两种框架优势的生成模型。我们提出了学习 SVAE 的新算法，并首次证明了 SVAE 处理丢失数据时处理多模态的能力。这些优化创新使 SVAE 能够通过梯度下降法进行学习。

Jun, 2023

基于语法的变分自编码器用于文本生成

本研究提出了一种语法融入变分自编码器（SIVAE），通过集成句法树来提高生成句子的语法，在生成模型上有独立的潜变量空间，可以用于句法控制的句子生成和无监督的改写任务。

Jun, 2019

基于 Transformer 的变分自编码器中的图引发的句法 - 语义空间

通过多任务学习或双编码器架构将分布语义特征和句法结构的编码分离成异构的潜空间，整合基于图和序列模型，通过低秩算子将多个专门的潜在表示注入解码器的注意机制，结果显示所提出的端到端 VAE 架构可以得到更好的潜空间整理，减轻标准 VAE 架构中发生的信息丢失，从而改善语言建模和下游生成任务的性能。

Nov, 2023

可解释的句子表示：变分自编码器和注意力机制

提出使用变分自编码器和 Transformers 构建两种具有归纳偏置的模型，可将潜在表示中的信息分离成可理解的概念，其中 QKVAE 在转移实验中表现出竞争性能，并展示了明显的优化句法角色分离能力。

May, 2023

半监督学习的解缩变分自编码器

本文提出了一种名为 SDVAE 的半监督变分自编码器，其将输入数据转化为可解释和不可解释的特征表示，使用分类信息来规范可解释的特征表示，并使用强化学习来增强特征学习能力，此框架适用于图像和文本数据。

Sep, 2017

用变分自编码器生成符号表达式

本文利用变分自编码器提出了一种用于生成符号表达式的深度学习框架，在嘈杂的数据条件下优于传统符号回归的准确率，并归纳了各类数据集及其恢复率相关知识。

Jan, 2023

利用正则化变分自编码器生成符合语义规范的图

本文介绍了一种基于矩阵表示的图形正则化框架，利用变分自编码器来实现语义有效性，实验证明和其他方法相比，该方法在采样有效的图形方面具有更高的可能性。

Sep, 2018

重新审视结构化变分自编码器

通过现代机器学习工具来实现硬件加速、并行化和自动微分的消息传递算法，探讨并展示了 SVAE 模型的优势，从而表明现在是重新审视结构化变分自编码器的时候了。

May, 2023