Jan, 2023

使用 Coreset 和归一化值预测学习编译器通行证顺序

PDF
TL;DR本文提出了一种用于代码大小缩减的新型管道来寻找与程序相关的通行证序列，该管道通过贪婪优化次模函数识别 50 个通行证序列，并使用图神经网络 (GNN) 学习策略以预测核损毁的值，在 14 个数据集上，我们的管道比默认的 -Oz 标志表现得更好，平均优化了 4.7％。
compilation pass orderingcode-size reductionprogram-dependent pass sequencessubmodular functiongraph neural network
发现论文，激发创造
  • 使用强化学习的目标无关 XLA 优化

    通过深度强化学习进行机器学习编译器 XLA 中的有效优化方法研究，提出了一种 XLA HLO 优化顺序的搜索方法，通过实验观察获得在 GPT-2、BERT 和 ResNet 等各种图形中平均减少操作次数 13.3% 和提升 10.4% 的结果。

    Aug, 2023

  • 自适应神经编译

    该论文提出了一种自适应神经编译框架来解决高效节目的学习问题，并展示了如何使用可微表示将程序编译为不同 iable 的表示，并通过考虑输入数据分布来优化这种表示，以实现为给定数据分布学习特定调整算法的目标。

    May, 2016

  • ML 编译器的可转移图优化器

    本文提出了一种基于可扩展序列注意力机制、归纳图神经网络和端到端可转移的深度强化学习方法，用于解决机器学习编译器生成高效机器代码时的图优化问题，并在多个图优化任务中取得显著性能提升。

    Oct, 2020

  • 零样本强化学习实现的超编译器代码优化

    CodeZero 是一个基于人工智能的编译优化工具，通过深度强化学习的方式训练智能代理，能够在单次试验中为每个程序即时生成有效的优化策略。在基准测试套件和生产级代码优化问题上的评估结果表明，CodeZero 具有超级编译器性能和零 - shot 泛化能力，超过了由编译器专家设计的内置优化选项。我们的方法为人工智能在工程领域的潜力提供了启示，并为在代码优化领域扩展机器学习技术铺平了道路。

    Apr, 2024

  • 使用机器学习进行编译器自动调优的调查

    本研究调查总结了近年来关于编译器优化领域中使用机器学习解决编译器优化问题的最新进展及应用，特别是针对两个主要问题：选择最佳优化和优化的阶段排列。

    Jan, 2018

  • 基因强化优化计算图的遗传算法学习

    本文提出一种深度强化学习方法，以最小化优化器中神经网络计算图的执行成本。该方法通过离线训练优化器，然后推广到以前未见过的图形，以避免在同一图形上进行更多的训练。通过比较广泛的基线，我们的方法在运行时间和峰值内存使用量上比经典和其他基于学习的方法都取得了显着的改进。

    May, 2019

  • ACPO：基于 AI 的编译器驱动程序优化

    ACPO 是一个提供给 LLVM 的新框架，用于通过机器学习模型进行编译器驱动的程序优化。实验证明，ACPO 在 Polybench、Coral-2、CoreMark 和 Graph-500 上相比于 LLVM 的 O3 优化，Loop Unroll 模型平均能提高 4% 和 3%，Inliner 模型能提高 4.5% 和 2.4%。

    Dec, 2023

  • 使用 Shackleton 优化 LLVM Pass 序列：一种线性遗传编程框架

    本研究介绍了 Shackleton 框架，将线性遗传编程技术应用于 LLVM 优化传递的序列优化，实现自动化优化；结果表明，自动优化可以优于手工优化方案。

    Jan, 2022

  • 基于深度强化学习的执行代码生成

    利用深度强化学习算法的 PPOCoder 框架，将预训练编程语言模型与外部执行反馈相结合，用于自动化代码生成任务，并在多项实验中展示了其在编译成功率和语法正确性方面的显著效果。

    Jan, 2023

  • 具备编译器反馈的可编译神经代码生成

    本文提出了一种名为 COMPCODER 的三阶段编译反馈机制，采用编译器反馈来生成可编译的代码，实验结果显示该方法的成功编译率从 44.18％提升至 89.18％。

    Mar, 2022