Jun, 2022

DeepPERF：基于深度学习的软件性能优化方法

PDF
TL;DR本文介绍 DeepPERF，一种基于 transformer 的方法，可用于建议改进 C# 应用程序的性能问题，通过预训练和调优，我们的模型能够在 53% 的情况下生成与开发人员修复相同的性能改进建议，在 50 个开源的 C# 仓库上评估表明我们的模型能够提供有效的性能改进建议。
software performancedeep learningc# applicationsperformance improvementsopen source data
发现论文，激发创造
  • MLPerf 训练基准测试

    MLPerf 是一个机器学习基准测试，用于量化评估训练性能和可扩展性，解决了优化训练、随机性和系统差异等挑战。

    Oct, 2019

  • 深度配置性能学习：系统调查与分类

    本文综述了深度学习在可配置软件性能学习方面的研究，包括配置数据的准备、深度配置性能学习模型的构建、模型的评估以及与软件配置相关的不同任务中的应用。同时，文章还总结了在调查中发现的良好实践和可能存在的问题，以及对该领域未来机会的见解。

    Mar, 2024

  • DataPerf: 面向数据中心 AI 开发的基准测试

    为了解决机器学习中数据集本质重要性被忽视的问题，本研究提出了 DataPerf，一个用于评估机器学习数据集和算法的基准包，旨在加速数据为中心人工智能开发的发展。

    Jul, 2022

  • DeepPerform: 一种针对资源受限神经网络的高效性能测试方法

    本文提出 “DeepPerform” 算法，来解决嵌入式设备上 Adaptive Deep Neural Networks 的计算冗余问题，这个问题被称为 Input-dependent Performance Bottlenecks，这个算法通过对神经网络模型的计算消耗进行学习和估计，能够高效地生成测试样本，检测性能瓶颈，并且比基准方法快 6-10 毫秒。

    Oct, 2022

  • MLPerf 推理基准测试

    这篇文章介绍了通过制定一套标准的机器学习基准测试和评估准则来评估以不同结构构建的机器学习硬件和软件系统的性能，以解决各种机器学习结构的评估所面临的挑战。

    Nov, 2019

  • 分布式环境下深度学习通用性能模型

    本文提出一种针对分布式环境下深度学习应用程序的性能建模方法，使用正则化和差分进化算法解决全局优化问题，可用于任何分布式深度神经网络，为性能和可扩展性提供有帮助的因素解释和准确性预测。

    May, 2023

  • 使用预训练 Transformer 生成错误修复

    DeepDebug 是数据驱动的程序修复方法，其可以从 GitHub 代码库中挖掘的实际 Java 方法中学习检测和修复错误的方法。通过将错误修补构建为序列到序列的学习任务，它实现了两个步骤，即去噪预训练和有监督的微调。本方法显示出比以前的工作更好的异常检测能力，并且可以使用通用解析器进行语言无关的方法。

    Apr, 2021

  • 源代码的参数高效微调变压器

    本文介绍了针对代码的预训练模型参数高效微调的适配器和 LoRA 两种方法，经过四项代码处理任务测试，发现这些高效微调方法在代码理解任务中可以实现可比或更高的性能，但在代码生成任务中性能不如标准的全微调。这些结果强调了在其他领域测试高效微调方法的重要性，并促进了对源代码高效微调的未来研究。

    Dec, 2022

  • 学习独立的程序和架构表示以实现可推广的性能建模

    这篇论文提出了 PerfVec，一种基于深度学习的性能建模框架，它学习高维、独立 / 正交的程序和微架构表示。学习完成后，程序表示可以用于预测其在任何微架构上的性能，微架构表示也可用于预测任何程序的性能。此外，PerfVec 还提供了一个基础模型，能够捕捉指令性能的本质，并可以直接供开发者在许多性能建模任务中使用，而无需其训练成本。实证评估证明，PerfVec 比先前的方法更具一般性、高效性和准确性。

    Oct, 2023

  • 学习性能提高的代码修改

    本文探讨了大型语言模型对编写和重构性能更好的代码方面的能力，通过收集大量的程序优化历程以评估和提高大型语言模型的能力，并使用优化器 CODEGEN 推出性能更好的代码以帮助程序员编写有效的代码。

    Feb, 2023