MMDec, 2021

CHAMP: 一种相干的硬件感知的光子集成神经网络稀疏化方法

PDF
TL;DR本文提出了一种新颖的针对相干光子神经网络的硬件感知幅值剪枝技术，该技术可以剪枝掉网络参数的 99.45％，并将静态功耗降低了 98.23％，同时精度损失可以忽略不计。
hardware-awaremagnitude pruningphotonic neural networkspower consumptionaccuracy loss
发现论文，激发创造
  • 特征表示对光子神经网络准确性的影响

    通过研究多种编码策略的效果，开发了数学框架以分析特征组合对光子神经网络的性能和学习能力的影响，并通过选择最优编码方法，在 Iris 数据集上取得了相比其他编码技术更高的精度提升，突破了不进行特征组合的网络性能。这些发现凸显了在规模或功率受限的应用中，谨慎选择编码方式对光子神经网络的精度和决策策略的重要性。

    Jun, 2024

  • 基于偏倚和去偏倚的方法实现公平知识传递，用于公平皮肤分析

    基于深度学习模型的皮肤疾病诊断中，为了解决公平性问题且不损害预测准确性，我们提出了一种基于两个偏倚的教师模型的方法，通过权重损失函数进行偏倚与去偏倚的训练，提高了模型的准确度和公平性。

    May, 2024

  • 通过门控压缩层增强设备上机器学习的用户体验

    利用门控压缩层优化边缘设备上的机器学习模型性能，降低能耗，并在始终开启的应用场景中实现成本效益和用户体验的提升。

    May, 2024

  • GRSN: 用于 POMDP 和 MARL 的门控递归脉冲神经元

    利用时间对齐范式 (TAP) 解决当前脉冲神经网络在增强学习中存在的时间不匹配问题，提高处理时间数据的能力，能在与递归神经网络 (RNNs) 相似性能下降低 50% 的电力消耗下解决部分可观测马尔科夫决策过程 (POMDPs) 和多智能体合作问题。

    Apr, 2024

  • 高效能图像存储：利用超分辨率生成对抗网络实现可持续压缩和减少碳足迹

    该研究旨在提出一种将图像压缩技术与超分辨率生成对抗网络结合的基于云存储的图像存储方法，以减少能源和资源消耗，降低碳排放，并通过 PSNR 和 SSIM 度量评估其有效性。同时提供了数学分析来计算能量消耗和碳足迹评估，该提议的数据压缩技术在环境可持续性和工业效率之间提供了重要解决方案。

    Apr, 2024

  • 3R-INN：如何在消费 / 传递视频时实现环境友好？

    通过提供具有最低可行质量的内容，3R-INN 有助于降低编码、传输、解码和显示的能量消耗，出色地完成了去噪和能量节约任务，并在不同的测试集上在调整大小任务上取得了最先进的性能。

    Mar, 2024

  • 不是所有的权重都是平等的：增强设备上流式语音识别的能效

    在本研究中，我们探讨了权重参数对语音识别模型整体功率消耗的影响，发现权重参数对功率消耗的影响因多种因素而异，包括调用频率和内存中的位置。基于这一洞察，我们制定了旨在优化设备内语音识别模型的设计准则，着重于在不实质影响准确性的情况下最小化功耗。我们的方法采用针对不同权重参数敏感性的有针对性压缩，相比于最先进的压缩方法，它在保持类似模型准确性的同时，实现了最高 47% 的能量使用减少，并改善了实时性。

    Feb, 2024

  • 自适应信道感知超宽带 DL-TDOA 的功耗效率室内定位

    本文提出并实施了一种新颖的低功耗、适应信道特性的动态频率下行到达差异时间测距算法，通过基于卷积神经网络（CNN）的 NLOS 概率预测器、动态测距频率控制模块和基于 IMU 传感器的测距滤波器，实验证明该算法在 NLOS 条件下的准确度比先前研究的基准方法提高了 50%，在 LOS 条件下的功耗降低了 46%。

    Feb, 2024

  • 基于摄像头的并行脉冲驱动变压器远程光电容识别

    本文提出了一种基于脉冲神经网络的混合神经网络模型 Spiking-PhyFormer，该模型在保持性能的同时，相较于 PhysFormer 和其他基于 ANN 的模型降低了 12.4% 的功耗，并将变压器块的功耗降低了 12.2 倍。

    Feb, 2024

  • 面向神经进化系统的物理合理性研究

    通过最大化神经进化框架下人工神经网络模型的准确性和最小化功耗，本研究提出了一种新的变异策略，引入了模块层的随机重新引入，通过训练过程中同时训练两个模型以推动其中一个模型的功耗更低且准确性相似，结果表明功耗降低了 29.2%，但预测性能基本不受影响。

    Jan, 2024