深度神经网络的有效处理：教程和概述
该研究论文探讨了计算机视觉问题中使用深度学习技术的发展趋势，着重介绍了卷积神经网络（CNNs）及其应用，帮助初学者了解何种深度网络适用于计算机视觉问题。
Jan, 2016
本文对深度神经网络在计算机视觉领域中的重要应用指标进行全面分析，发现能耗与批次大小和架构无关，准确度和推断时间在双曲线关系中，能源约束是最大可实现准确度和模型复杂度的上限，操作次数是推断时间的可靠估计。
May, 2016
本文综述了卷积神经网络的历史，概述了卷积神经网络的结构，介绍了一些基础和高级模型，并通过实验分析总结了一些适用函数的经验法则。此外，本文还涵盖了一维、二维和多维卷积的应用，并讨论了卷积神经网络面临的一些问题和未来的方向。
Apr, 2020
介绍了深度学习效率问题和五个核心领域，包括建模技术、基础设施和硬件，并提出实验指南和代码，为实践者优化模型培训和部署提供支持。这是第一个详尽的调查，涵盖了从建模技术到硬件支持的模型效率领域，帮助实践者实现改进并装备他们以进行进一步的研究和实验。
Jun, 2021
本研究旨在回顾各种最先进技术，探讨如何通过序列减少训练参数和使用像全局均值池化、深度卷积和挤压、模糊化池等技术进行分阶段训练来构建高效的深度卷积网络，并成功实现了在MNIST数据集上仅使用1500个参数达到99.2%的高准确度，并在CIFAR-10数据集上仅使用超过140K个参数达到了86.01%的高准确度。
May, 2022
本研究提出了一种新的压缩范式：DepthShrinker，可通过将现有深度神经网络的基本构建块缩小为具有更改进的硬件利用率的密集块来开发硬件友好的紧凑网络，从而提高硬件效率并维持模型准确性，DepthShrinker框架能够提供优于当今最先进的高效DNN和压缩技术的硬件友好的紧凑网络
Jun, 2022
本篇论文综述了替代数字系统对于提升深度神经网络计算效率的重要性，讨论了使用这些系统所面临的挑战和相应的解决方案，并突出了各种数字系统在DNN性能上的影响和各种设计方面。
Jul, 2023
过去十年来，深度学习模型在各种视觉感知任务中取得了显著进展，但其高计算资源需求限制了其在实际应用中的可行性。本综述通过四个关键领域的研究，即轻量级骨干模型的发展、面向特定计算机视觉任务的专用网络架构或算法、深度学习模型压缩技术以及在硬件平台上部署高效深度网络的策略，对计算效率高的深度学习进行了广泛分析，并讨论了该领域面临的关键挑战和未来研究方向。
Aug, 2023
本研究解决了深度神经网络（DNNs）在嵌入式计算系统中部署的计算资源不足的问题。论文提出了一种系统化的高效深度学习基础设施框架，涵盖了从网络设计到模型压缩等多个方面。研究表明，通过优化基础设施，可以显著缩小深度学习与嵌入式系统的计算差距，从而推动嵌入式智能的普及应用。
Nov, 2024