gpu | BriefGPT - AI 论文速递

关键词gpu

搜索结果 - 80

关于扩大 3D 高斯喷洒训练的研究
3D 高斯喷墨（3DGS）是由于其出色的视觉效果和渲染速度而变得越来越受欢迎的三维重建技术。我们介绍了 Grendel，这是一个分布式系统，旨在将 3DGS 参数划分并在多个 GPU 上并行计算，以处理高分辨率和大规模的 3D 重建任务。通
PDF8 days ago
使用 Korch 进行张量程序的最优核编排
Korch 是一个张量程序优化器，通过将操作符进行分解，然后利用二进制线性规划求解器优化内核编排，生成可在现代 GPU 平台直接部署的可执行文件，从而在 V100 和 A100 GPU 上比现有的张量程序优化器提高了最多 1.7 倍和 1.
PDF21 days ago
提升推理速度：蝶式稀疏矩阵乘法的高效 GPU 内存管理
通过一项全面的基准测试，本研究评估了目前 GPU 上用于蝶形稀疏矩阵乘法算法的现状，旨在为用户提供一个简单的工具来选择最佳算法实现。结果显示现有实现在内存重写操作上耗费了总运行时间的高达 50％。同时，引入一种新的 CUDA 核心可以优化这
PDFa month ago
利用 2:4 稀疏加速 Transformer 预训练
使用 NVIDIA Ampere GPU 利用 2:4 稠密 / 稀疏矩阵相乘的性质对 Transformer 的预训练进行加速，通过修改稀疏优化过程中的估计器和在预训练末端进行简单而有效的稠密微调，以及利用卷积计算可转置的 2:4 掩码和
PDF3 months ago
轻量级增强 Inception U-Net 神经网络用于布线可行性预测
我们提出了一种新的 U-Net 变体模型，通过嵌入 Inception 模块来预测路由阻塞和设计规则检查热点，实验证明我们的方法在 Avg-NRMSE 指标上比经典结构分别实现了 5%（RC）和 20%（DRC）的准确率提升，并且在 SS
PDF5 months ago
XLand-MiniGrid：基于 JAX 的可扩展元强化学习环境
我们提出了 XLand-MiniGrid，这是一个基于 XLand 的多样性和深度以及 MiniGrid 的简洁和极简主义所启发的元强化学习研究工具和网格世界环境套件。
PDF6 months ago
MaxK-GNN：加速图神经网络训练的理论速度极限
本文提出了 MaxK-GNN，一个高性能的 GPU 训练系统，通过集成算法和系统创新来实现。在 MaxK-GNN 系统的广泛评估中，实验结果显示其接近 Amdahl 法则的理论极限，相对于 DGL 和 GNNAdvisor 的实现，在 Re
PDF7 months ago
FULL-W2V: 在 GPU 加速系统上充分利用数据复用进行 W2V
通过减少内存访问和改进时序局部性，FULL-W2V 算法在 GPU 上实现了显著的性能提升，并且对 NLP 和其他领域的应用具有潜在的益处。
PDF7 months ago
基于数据管理的 GNN 训练系统的综合评估
该论文从数据管理的角度对图神经网络 (GNN) 训练进行了回顾，并提供了代表性方法的全面分析和评估，通过在各种基准数据集上进行广泛实验展示了许多有趣且有价值的结果，同时提供了一些从实验中学到的实用技巧，有助于未来设计 GNN 训练系统。
PDF7 months ago
LSH 能否被神经网络取代？
利用深度神经网络 (LLSH) 代替传统的局部敏感哈希函数族，该方法能够高效灵活地将高维数据映射到低维空间，并在同时减少时间和内存消耗、保证查询准确性方面展示了可行性，为开发人员设计和配置数据组织提供了新思路，以提高信息搜索性能。通过在不同
PDF9 months ago
通过前向传播错误学习表示
基于正向传播方法和代数几何中的双重数概念，提出了一种在 CPU 上与 GPU 上的 CUDA 加速相比都快速的轻量级学习算法
PDFa year ago
优化基于 Transformer 的机器翻译模型，以便在单个 GPU 训练中达到最佳性能：超参数淘汰研究
通过对超参数的删减实验，发现模型参数不一定越多越有效，进而揭示了通过精确调整超参数在单个 GPU 上训练复杂模型的关键技巧，从而为机器翻译的可用性和经济性提供了重要见解。
PDFa year ago
FlashAttention-2：更快的注意力计算，更好的并行和工作分割
使用 FlashAttention 和 FlashAttention-2 算法来提高模型的效率
PDFa year ago
KDDcuSLINK：GPU 上的单连通聚类
本文介绍了 cuSLINK，一种在 GPU 上重构 SLINK 算法的新方法，并使用参数 k 来权衡时间和空间，以进行一系列重要应用，包括社交和计算机网络中的聚类分析，自然语言处理和计算机视觉等。
PDFa year ago
异构 HPC 平台深度学习硬件加速器调查
该论文概述了近年来深度学习加速器的最新进展，并分类了最具影响力的架构和技术，以便提供给读者一个全面的视角，最终提供了一些关于深度学习加速器未来挑战的见解，例如量子加速器和光子学。
PDFa year ago
Im2win：GPU 上的高效卷积操作
本文提出了基于 im2win 的卷积范式，旨在通过持续的内存访问提高性能，并经过了优化技术的改进，与其他基于 cuBLAS 和 cuDNN 的卷积实现相比，内存占用少 23.1% 至 32.8%，性能提高了 3.5 倍至 155 倍。
PDFa year ago
FFCV：排除数据瓶颈以加速培训
FFCV 是一个用于简单快捷地进行机器学习模型训练的库，通过消除训练过程中的数据瓶颈来加速模型训练，结合有效的文件存储格式、缓存、数据预处理、异步数据传输和即时编译等技术，以使数据加载和传输更加高效，确保 GPU 可以达到完全利用率，并异步
PDFa year ago
使用迁移学习技术进行自闭症疾病检测：神经网络的中央处理单元 vs 图形处理单元的性能比较
该论文使用先进的神经网络技术和基于 GPU 与 CPU 性能对比，实现了面向分类自闭症患儿的图像识别系统，结果发现 GPU 在所有测试中都表现出更高的性能和准确性。
PDFa year ago
深度神经网络的滑动窗口求和算法
本文研究了滑动窗口求和算法在深度神经网络中的应用，展示了该算法可以用于池化和卷积原语的求值，并且该滑动求和卷积核比 CPU 上常用的 GEMM 卷积核更有效，甚至可以超过 GPU 对应核心的卷积核。
PDFa year ago
肾脏病理图像多标签分割的加速流程 - 全切片图像级别
本文提出了 Omni-Seg pipeline 的增强版，采用深度学习技术，利用 GPU 加速，针对整个滑动图像（WSIs），实现了多类多尺度病理分割，将平均处理时间从 2.3 小时大幅缩短至 22 分钟。
PDFa year ago