data locality | BriefGPT - AI 论文速递

关键词data locality

搜索结果 - 8

高效隐私保护 LLM 的 PrivateLoRA
在这项研究中，我们提出了一个新颖的 LLM 服务范例，通过在边缘设备上分布隐私敏感计算和在云端共享计算的方式，实现了数据本地性；我们的核心创新 PrivateLoRA 通过利用残余激活的低秩性质实现了超过 95% 的通信减少，从而高效地维护
PDF7 months ago
在边缘计算环境下预测复制运动的时间特征
本文研究 Fog computing 环境中数据本地性的有效管理至关重要，传统的数据复制技术缺乏操作更高级别的技术，因此需要更先进的技术来预测客户何时何地连接，并借助 Holt-Winter 的指数平滑模型来将时间预测结合到现有的空间预测模
PDFa year ago
I-GCN: 通过孤岛化实现运行时局部性增强的图卷积网络加速器
本文提出了一种新的硬件加速器 I-GCN，采用在线图重构算法 Islandization，通过处理岛屿而不是单个节点，从而显著提高了数据局部性和减少了不必要的计算。I-GCN 可以减少 38% 的聚合操作，性能速度普遍快于 CPU、GPU
PDF2 years ago
KDDGNNSampler: 桥接 GNN 和硬件之间的采样算法差距
本文提出了一种统一的编程模型 GNNSampler，以覆盖各种类别的抽样算法的关键过程。并基于数据局部性优化 GNNSampler，以在各种抽样算法中优化通用抽样过程，以及在大型图数据集上进行实验，从而分析训练时间、准确性和硬件水平指标之间
PDF3 years ago
具有动态拓扑和本地更新的去中心化 SGD 的统一理论
这篇论文介绍了一种统一的收敛性分析方法，涵盖了许多分散式随机梯度下降方法，具有计算成本低、数据本地性和沟通效率等优点，并包括本地随机梯度下降更新和自适应网络拓扑上的同步和成对传递更新，我们推导了光滑（凸和非凸）问题的通用收敛率，并在不同的数
PDF4 years ago
SpArch: 稀疏矩阵乘法的高效架构
本文提出了一种有效的稀疏矩阵乘法加速架构 SpArch，它联合优化了输入和输出矩阵的数据局部性。通过设计高度并行化的基于流的合并器和一种压缩矩阵表示，该架构使总 DRAM 访问次数减少了 2.8x，平均速度提高了 4x - 1285x，节约
PDF4 years ago
MM提高选定机器学习算法数据本地性的指南
本篇论文讨论利用数据局部性可以提高机器学习算法性能的方法，证明重复数据访问与计算可以视为数据移动中的冗余，提出直接重用计算结果可以避免冗余，文中也使用选定的机器学习算法进行了具体的实现和证明。
PDF4 years ago
MM机器学习算法的数据访问模式和计算冗余性回顾
通过分析利用数据局部性提高机器学习算法性能的方法，本文发现了通过改变数据访问模式以增加局部性可以显著提高给定算法性能的机会和使用重复计算结果来避免冗余的机会，并且在一些选定的机器学习算法上记录了这种重复计算结果的可能性，并提供了相关实验结果
PDF5 years ago