Jun, 2020

EMOGI: GPU 非内存图遍历的高效内存访问

PDF
TL;DR本文提出了一种名为 EMOGI 的方法，使用直接缓存行访问主机内存中存储的数据来遍历不适合 GPU 内存的图形数据，将多个外部内存请求合并和对齐以最小化 PCIe 事务数量并几乎充分利用 PCIe 带宽，从而在各种图形遍历应用程序中实现了 2.92 倍的加速比。
发现论文，激发创造
  • Marius: 在单机上学习大规模图嵌入

    提出了一种名为 Marius 的系统，用于在单台机器上训练大规模图的嵌入向量，利用分区缓存和缓冲区感知数据排序减少磁盘访问和优化数据移动，并在多种基准测试中表现出比现有工业系统高十倍的效率和可扩展性。

    Jan, 2021

  • 利用 GPU 发起直接存储访问加速 GNN 框架中的采样和聚合操作

    文中作者提出了 GPU Initiated Direct Storage Access (GIDS) 数据加载器来解决图嵌入和采样问题，以实现大规模图的 GPU 优先训练及优化，该方法将整个 DGL GNN 训练加速了最高可达 392 倍。

    Jun, 2023

  • GEMEL：边缘实时视频分析的内存高效模型合并技术

    介绍了一种新的内存管理技术 - 模型合并 (GEMEL)，通过合理地共享模型的层次结构和权重，减少了算力与内存的资源消耗，相对于时间 / 空间共享的解决方案，提高了 8-39% 的准确性，并将内存使用率降低了高达 60.7%

    Jan, 2022

  • 边缘可持续 AI 处理

    本研究比较探讨了卷积神经网络加速引擎对于边缘计算的可持续性及其对推理和在线训练的影响，特别关注了处理内存、移动 GPU 加速器和新型 Racetrack 存储器的使用。研究表明，采用更加可持续的处理器内存和移动 GPU 加速器可以有效减少计算的能源占用率。

    Jul, 2022

  • FlashGraph: 在一组通用 SSD 上处理数十亿节点图

    通过在用户空间 SSD 文件系统上实现图处理引擎，使用闪存硬盘并利用多核服务器的处理能力，FlashGraph 在半外部存储器中执行许多算法并表现出众，可表达各种图形算法及其优化。

    Aug, 2014

  • 使用进化图强化学习优化内存分配

    本文提出了一种基于进化图强化学习（EGRL）的方法，用于深度神经网络加速器的自动内存映射，该方法结合了图神经网络、强化学习和进化搜索等技术，并在 Intel NNP-I 芯片上进行了训练和验证，实验结果表明，EGRL 在 BERT、ResNet-101 和 ResNet-50 三种工作负载中表现良好，并相对于原生 NNP-I 编译器获得 28-78% 的加速。

    Jul, 2020

  • 面向大型推荐系统嵌入的频率感知软件缓存

    本文提出了一种基于 GPU 的软件缓存方法来动态管理 DLRM 的 embedding table，通过利用目标数据集 id 的频率统计信息，在 GPU 和 CPU 内存空间之间进行管理，以此来使得在 GPU 上训练 DLRM 更为实用。同时，该方法也支持多 GPU 并行训练，通过实验证明，只在 GPU 上保留 1.5% 的 embedding 参数就能保障训练速度。

    Aug, 2022

  • 利用 GPU 加速图机器学习中的图采样

    该论文介绍了一个名为 NextDoor 的系统，该系统使用称为 transit-parallelism 的新方法，在 GPU 上高效执行图形采样，并比现有系统运行得更快，该系统提供给终端用户撰写各种图形采样算法的高级抽象。

    Sep, 2020

  • SmartSAGE: 使用存储处理架构训练大规模图神经网络

    本文针对大规模图神经网络 GNN 训练所需的巨大存储容量和内存限制的问题，提出了一种基于存储器的处理（ISP）架构的解决方案 SmartSAGE，使 GNN 训练系统具有高容量存储和高性能。

    May, 2022

  • SPEED：用于时间交互图嵌入的流式划分和并行加速

    大规模时间交互图的 GPU 加速训练方法 (SPEED)。通过流式边分区和并行加速方法，SPEED 实现了更高的训练速度和更低的资源消耗，具有潜力在百万节点和十亿边的环境下进行训练和加速，并在后续任务中保持竞争力。

    Aug, 2023