cpu | BriefGPT - AI 论文速递

关键词cpu

搜索结果 - 16

NoMAD-Attention：通过无乘法加法注意力在 CPU 上高效执行 LLM 推断
借助现代 CPU 中的 Single-Instruction-Multiple-Data（SIMD）寄存器的独特能力，本文提出了 NoMAD-Attention，一种高效的注意力算法，通过在寄存器中进行查找来取代昂贵的 Multiply-A
PDF4 months ago
轻量级增强 Inception U-Net 神经网络用于布线可行性预测
我们提出了一种新的 U-Net 变体模型，通过嵌入 Inception 模块来预测路由阻塞和设计规则检查热点，实验证明我们的方法在 Avg-NRMSE 指标上比经典结构分别实现了 5%（RC）和 20%（DRC）的准确率提升，并且在 SS
PDF5 months ago
SIMD 数据流协同优化用于 CPU 上高效神经网络推理
通过使用数据流和启发式引导分析及代码生成框架，我们致力于解决在 CPU 上部署神经网络时所面临的挑战，特别注重在保持准确性的同时最小化推断时间。我们的研究结果表明，通过保持输出在 SIMD 寄存器中的数据流，并同时最大限度地利用输入和权重重
PDF9 months ago
通过前向传播错误学习表示
基于正向传播方法和代数几何中的双重数概念，提出了一种在 CPU 上与 GPU 上的 CUDA 加速相比都快速的轻量级学习算法
PDFa year ago
适用于多重图案布局分解的 GPU 加速矩阵覆盖算法
通过将 CPU 数据结构替换为 GPU 并行矩阵运算，提出了一种用于解决多重图案刻蚀技术中面向确切覆盖的布局分解算法的加速方案，实验结果表明，该系统能够实现全尺寸、超快速的布局分解，并且与现有的布局分解方法相比，可以实现超过 10 倍的速度
PDFa year ago
利用分治原则提高机器学习推理性能
本文探讨了在 CPU 上部署机器学习模型的缩放问题，提出了一种基于分而治之原则的简单而有效的方法来解决这个实际重要的问题，在 OnnxRuntime 框架中实施并用几个用例来评估其有效性，包括用于 OCR 和 NLP 的著名模型。
PDFa year ago
使用知识蒸馏的对抗生成超分辨率在边缘设备上的应用
本文提出了一个高效的生成对抗网络模型用于在需要可靠的视觉流来监视任务、处理远程操作或研究相关视觉细节的环境中支持机器人任务的单图像超分辨率，并通过定制的网络架构和模型量化使其在 CPU 和 Edge TPU 设备上达到高达 200 fps
PDF2 years ago
AAAIGPU 上的并发约束编程的变体
本文通过基于并发约束编程的简单、本质并行、无锁、形式正确的编程语言，重新审视了 GPU 上的并行约束求解，并开发了完全基于 GPU 编程的简单约束求解器 Turbo，与并行 CPU 求解器相比进行了正确性验证和比较。
PDF2 years ago
基于示例变换器的高效视觉追踪
本文介绍了一种利用单实例层级注意机制的 Transformer 模块，用于实时视觉物体跟踪的 Exemplar Transformer。通过将 Exemplar Transformer 模块应用于 E.T.Track 视觉追踪器，该方法在
PDF3 years ago
使用产品数据总结 CPU 和 GPU 设计趋势
本文测试了摩尔定律和丹纳德定律的效力，发现虽然晶体管的缩小仍然是很关键的，但架构方案也变得越来越重要，并且 GPU 在性能上优于 CPU，但得益于 CPU 的新的 SIMD 扩展和核心数量的增加，GPU 和 CPU 在性能上的比例逐渐接近。
PDF5 years ago
为大规模深度学习系统辩护：智能算法胜于硬件加速
本研究提出了一种基于 CPU 的深度学习引擎 SLIDE，采用智能随机算法、多核并行和工作负载优化，通过针对大规模完全连接网络的训练，相对于优化的 Tensorflow（TF）在最佳可用 GPU 上进行训练，在任何给定准确性水平下，使用仅仅
PDF5 years ago
StyleBlit：基于本地引导的快速基于示例的样式化
该研究提出了一个高效的基于样例的风格转移算法 StyleBlit，适用于具有局部引导的风格转移应用，能够在单核 CPU 上实现高质量的风格化渲染。
PDF6 years ago
FaceBoxes: 一个高精度的 CPU 实时人脸检测器
该研究提出了一种名为 FaceBoxes 的新型人脸检测器，其网络结构采用了轻量级但强大的 RDCL 和 MSCL，实现了 CPU 上的实时速度和高性能的检测，同时还具有新的锚定点密集化策略，并在多个人脸检测基准数据集上呈现出最新的检测性能
PDF7 years ago
GPU 上异步优势行动者 - 评论家强化学习
介绍了一个混合 CPU/GPU 版本的异步优势 Actor-Critic（A3C）算法，分析了它的计算特性并集中讨论了借助 GPU 计算能力的关键方面，通过引入队列系统和动态调度策略，提高了算法效率；基于 TensorFlow 的混合 CP
PDF8 years ago
Theano: 用于快速计算数学表达式的 Python 框架
Theano 是一个 Python 库，可高效地定义，优化和评估涉及多维数组的数学表达式，在机器学习社区中一直以来是最常用的 CPU 和 GPU 数学编译器之一，并显示稳定的性能改进。
PDF8 years ago
利用卷积网络内的线性结构进行高效评估
本文介绍了一种可以加速大型卷积神经网络测试时间评估的技术，通过利用卷积滤波器中的线性结构进行逼近计算，可以在保持模型准确率的同时，将 CPU 和 GPU 上的卷积层速度提高了 2 倍。
PDF10 years ago