Dec, 2022

AGO: 解除图优化限制，提升移动 AI 推理性能

PDF
TL;DR该研究提出了 AGO，一种具有任意结构的图形优化框架，通过消除约束来提高深度模型的推理性能，并且能够有效地提高性能，包括设计一个图划分方案以实现任意子图结构，提出了强化运算符融合的机制以创造新的优化机会，以及提出了新颖的分治调整机制进行快速高效的性能调优。大量实验结果表明，相比于现有深度编译器，该系统能够提高可达 3.3 倍的推理性能。
deep learninggraph optimizationintensive operator fusiongraph partitioningperformance tuning
发现论文，激发创造
  • ML 编译器的可转移图优化器

    本文提出了一种基于可扩展序列注意力机制、归纳图神经网络和端到端可转移的深度强化学习方法，用于解决机器学习编译器生成高效机器代码时的图优化问题，并在多个图优化任务中取得显著性能提升。

    Oct, 2020

  • AGL：面向工业应用的可扩展图机器学习系统

    提出了一种基于成熟基础架构的可扩展、容错和集成训练和推理的 AGL 系统，采用图传递机制和 MapReduce 算法来训练和推理图神经网络，同时通过生成每个节点的信息完整子图以及在参数服务器上训练来解决图形结构中的数据依赖性问题。

    Mar, 2020

  • 深度学习的组合文法架构：AOGNets

    该论文提出了一种称为 AOGNets 的深度组合语法架构来改进深度神经网络的性能，并在多项基准测试中比 ResNet 等其他模型表现更好，并且在网络分析方面也具有更好的潜力。

    Nov, 2017

  • 基因强化优化计算图的遗传算法学习

    本文提出一种深度强化学习方法，以最小化优化器中神经网络计算图的执行成本。该方法通过离线训练优化器，然后推广到以前未见过的图形，以避免在同一图形上进行更多的训练。通过比较广泛的基线，我们的方法在运行时间和峰值内存使用量上比经典和其他基于学习的方法都取得了显着的改进。

    May, 2019

  • 深度神经网络结构和超参数优化的算法框架

    本篇论文提出一种基于演化有向无环图的算法框架，自动生成高效的深度神经网络并优化其相关超参数，与已有文献中的搜索空间相比更具灵活性，能优化网络的结构和超参数，已经在时间序列预测基准测试中得到了实验结果的验证。

    Feb, 2023

  • 抽象与推理语料库的图形、约束和搜索

    本文提出一种基于图形抽象的对象中心框架，使用 DSL 进行程序综合，引入了约束获取、状态哈希和禁忌搜索，成功的解决了 ARC 的复杂对象中心任务，并生成了正确而易于理解的程序。

    Oct, 2022

  • 基于 And-Or 图的在线物体跟踪、学习和解析

    本文介绍了一种名为 AOGTracker 的方法，用于在视频序列中同时跟踪，学习和解析（TLP）未知对象，使用分层和组合的 And-Or 图（AOG）表示方法。通过在线学习，使用潜在 SVM 来磨练 AOg 并解决背景中的干扰问题。通过实验表明，与现有算法相比，AOGTracker 具有更高的准确性和可靠性。

    Sep, 2015

  • GraphOpt: 学习图形构建的优化模型

    GraphOpt 是一种结构形成的图形优化框架，采用最大熵反强化学习算法以及具有可扩展性的连续潜在行动空间，学习隐含的图形目标函数来解释所观察到的图形属性，并在未经训练的情况下实现竞争性链接预测性能。

    Jul, 2020

  • 异构受限计算中的边缘 AI 推断：可行性与机遇

    网络边缘在人工智能（AI）推理处理中的作用正在快速扩大，驱动力是众多寻求计算优势的应用程序。

    Oct, 2023

  • 边缘人工智能：通过边缘计算加速深度神经网络推理

    该论文提出了一种基于边缘计算的 DNN 协同推理框架 Edgent，通过 DNN 分区和权衡设备的云资源和临近边缘资源来协调实时的 DNN 推理，进而降低计算延迟，实现低延迟边缘智能处理。

    Oct, 2019