Apr, 2023

深度学习在变量类型恢复中的应用研究

PDF
TL;DR该研究介绍了 DIRTY 模型，它是一种基于 Transformer 的编码器 - 解码器结构，能够利用反编译器生成的变量数据增加反编译代码的可读性。作者通过 Ghidra 反编译器生成数据集并重新训练 DIRTY 模型，证明了 Ghidra 反编译器可以达到类似的重新输入性能，鼓励更多学者采用 Ghidra 反编译器以加强研究项目的可读性。
reverse engineeringmalware analysismachine learningdecompiled codeghidra decompiler
发现论文，激发创造
  • 文本生成的深度潜在变量模型

    使用深度潜变量模型进行文本生成可以提高标准编码器 - 解码器模型的效果，同时保持深度神经网络的表达能力。

    Mar, 2022

  • 半监督近义复述生成的深层潜变量模型

    研究利用深度潜在变量模型进行半监督任务，提出了 VSAR 和 DDL 两个模型，组合使用可提高性能，在已知文本对的情况下使用 DDL+VSAR 进行半监督学习，使用提出的权重初始化方法解决冷启动问题，经实验验证，该模型在数据不完整的情况下具有很好的性能。

    Jan, 2023

  • 更深入的融合！一种基于层次化潜变量推理的变分 Transformer 文本生成模型

    DELLA 是一种新型的变分 Transformer 框架，通过层内和层间激活的耦合，使得变分自编码器的后验概率深度回传到整个计算路径，减少信息损失并实现更好的生成效果

    Jul, 2022

  • 可传递信息理论及其在深度生成模型中的应用

    本文介绍了一种基于控制先验和层次结构的基于变分自编码器 (SemafoVAE) 来实现分离表示和生成高质量图像的方法。

    Mar, 2022

  • 多样化回复生成的变分 Transformer

    本文提出了变分 Transformer（VT）算法，将变分自注意力前馈序列模型与 CVAE 的变分性质相结合，从而有效处理对话响应生成领域中高熵任务的问题，并在多个对话数据集上获得了性能提升。

    Mar, 2020

  • 对话生成中改进变分编码器 - 解码器

    本文通过将训练步骤分为两个阶段来解决 KL - 消失问题，采用多层感知器对高斯噪声进行变换来对潜在变量进行采样，从而实现更灵活的分布，实验结果表明，我们的模型在度量和人类评估方面都有大幅度提高。

    Feb, 2018

  • 使用离散潜变量在序列模型中进行快速解码

    本研究提出使用离散潜变量来扩展序列模型，使解码更可并行化，相对于可比较的自回归模型，我们的模型在神经机器翻译任务中解码快一个数量级，而虽然 BLEU 得分低于纯自回归模型，但比以前提出的非自回归翻译模型获得了更高的分数。

    Mar, 2018

  • 对话系统中低资源自然语言生成的双潜变量模型

    本文提出了一种基于变分神经网络的自然语言生成模型，用于解决受限标记数据集的自然语言生成问题，并通过引入变分推理和辅助自编码器与有效的训练程序来提高模型性能。实验表明，该模型不仅在有足够训练数据时优于以前的模型，而且在数据稀缺情况下也表现出良好的能力。

    Nov, 2018

  • 基于双重强化的图像去混淆规范生成

    本研究探讨了使用 LSTM-RNN 与 Transformer 网络作为解码器对无序图形程序进行识别的有效性，以及使用具有多样性奖励的强化学习方法来增强解码器的感知偏差，并在两个图形程序生成数据集上实现了最先进的结果。

    Mar, 2021

  • 循环增强多样性！重新审视变分自编码器中的循环潜变量用于产生多样文本

    本文提出了 TRACE，一种用 Transformer 作为基础的循环 VAE 结构，可以增强文本段之间的交错关系，提高生成多样性，并在不降低生成质量的情况下取得明显改进。

    Oct, 2022