Mar, 2024

depyf: PyTorch 编译器的不透明盒子打开

PDF
TL;DRPyTorch 2.x introduces a compiler designed to accelerate deep learning programs, and we introduce depyf, a tool that demystifies the inner workings of the PyTorch compiler by decompiling bytecode back into source code and establishing connections with in-memory code objects, allowing users to step through the code line by line using debuggers.
pytorch compilerdepyfdeep learning programssource codedebuggers
发现论文，激发创造
  • 提升神经网络以反编译优化二进制文件

    本文介绍了一种新的学习方法，称为 NeurDP，以处理被编译优化的二进制文件的反编译问题，并以图神经网络模型将低级程序语言转换为中间表示，从而实现更好的翻译性能，经评估结果表明，NeurDP 可以比最先进的神经反编译框架的准确率高出 45.21%。

    Jan, 2023

  • TF-Coder：用于张量操作的程序合成

    本文介绍了一种名为 TF-Coder 的工具，可以使用 TensorFlow 进行编程示例。TF-Coder 使用自底向上的加权枚举搜索，通过基于值的修剪等方法，确保表达式符合 TensorFlow 库所施加的各种要求。在实现 63 个真实世界的任务时，TF-Coder 在 5 分钟内解决了其中 63 个，有时比经验丰富的人类程序员更快地找到了更简单的解决方案。

    Mar, 2020

  • Jax 反编译器：重新定义基于梯度的软件设计

    JaxDecompiler 是一个将任何 JAX 函数转换为可编辑的 Python 代码的工具，特别适用于编辑由梯度函数生成的 JAX 函数，并在逆向工程、理解、定制化和软件互通方面简化了过程。它在深度学习和梯度驱动软件方面具有实际应用，我们通过演示证明了反编译代码的速度性能与原始代码相似。

    Mar, 2024

  • DyCL: 通过程序重写和图优化实现动态神经网络编译

    提出一种名为 “ool” 的方法，通过程序分析和转换技术将动态神经网络转化为多个子神经网络，使得现有的 DL 编译器成功编译动态神经网络实现更好的性能。

    Jul, 2023

  • 通过神经机器翻译实现可重定向反汇编

    使用神经机器翻译技术进行反编译，可以使得反编译的支持范围更广，但过度的语言特定领域知识会增加支持新语言的负担。因此，研究者提出了一种使用神经机器翻译将程序汇编语言和源码语言看作纯文本的方案，并成功地应用于多种语言的反编译中。在参数调整和评估中，该方案相比其他基于神经机器翻译的反编译技术，在较少领域知识的情况下实现了相当的反编译精度。

    Dec, 2022

  • CodeTF: 一站式 Transformer Library 为最先进的代码 LLM

    该研究介绍了 CodeTF—— 一个用于代码 LLMs 和代码智能的开源 Transformer-based 库，它支持众多预训练模型和常见代码基准，标准化的界面和数据特征提取工具。与其他相关工具相比较，CodeTF 采用了模块化设计和可拓展的框架，并致力于弥合机器学习 / 生成人工智能与软件工程之间的鸿沟，为开发者、研究人员和实践者提供全面开源的解决方案。

    May, 2023

  • 深度学习在变量类型恢复中的应用研究

    该研究介绍了 DIRTY 模型，它是一种基于 Transformer 的编码器 - 解码器结构，能够利用反编译器生成的变量数据增加反编译代码的可读性。作者通过 Ghidra 反编译器生成数据集并重新训练 DIRTY 模型，证明了 Ghidra 反编译器可以达到类似的重新输入性能，鼓励更多学者采用 Ghidra 反编译器以加强研究项目的可读性。

    Apr, 2023

  • 将源代码预训练语言模型扩展至汇编代码反编译摘要

    本文研究了利用大型预先训练的源代码模型来对反编译二进制文件的函数进行自动摘要，建立了一个包含多种编译器优化的数据集 CAPYBARA，进一步生成了合成数据集来优化模型性能，并创造了 BinT5 模型，成功地用于反汇编二进制代码中。

    Jan, 2023

  • LLM4Decompile：使用大型语言模型进行二进制代码反编译

    通过发表首个开源的用于反编译的大型语言模型 (LLMs)，以及引入考虑重新编译和重新执行性能的第一个数据集 Decompile-Eval，本研究从程序语义的角度评估了反编译模型。实验证明，LLM4Decompile 能够准确反编译 21% 的汇编代码，这相较于 GPT-4 有了 50% 的改进。

    Mar, 2024

  • Python 模糊测试可信机器学习框架

    确保机器学习框架的安全性和可靠性对于构建可信的基于人工智能的系统至关重要。我们提出了一个 Python 项目的动态分析流水线，使用 Sydr-Fuzz 工具集来实现模糊测试、语料库精简、崩溃分析和覆盖率收集，在 GitLab CI 中实现流水线集成，以发现和修复机器学习框架中的漏洞。

    Mar, 2024