Apr, 2024

基于全光全连接结构的片上混合衍射神经网络的 1 位量化实现

PDF
TL;DR光衍射神经网络（DNN）是光神经网络（ONN）的一种子集，展现了与电子网络相当的实力。本研究引入了混合衍射神经网络（HDNN），这是一种新颖的架构，将矩阵乘法纳入 DNN 中，以充分利用传统 ONN 和 DNN 的优势，以克服光衍射神经网络固有的调制限制。利用单一相位调制层和幅度调制层，经过训练的神经网络在模拟和实验中的数字识别任务中表现出了 96.39% 和 89% 的显著准确性。此外，我们开发了一种称为 Binning Design（BD）的方法，有效缓解了衍射单元采样间隔所造成的约束，大大简化了实验流程。此外，我们提出了一种片上 HDNN，不仅采用分光的相位调制层来提高集成级别，而且显著放宽了器件制造要求，用 1 位量化设计的缓解表面替代了超表面。此外，我们构想了一种全光 HDNN 辅助的病变检测网络，实现的检测结果与模拟预测完全一致。本研究不仅推动了 DNN 的性能提升，还为产业级光神经网络的生产铺平了道路。
optical diffraction neural networkshybrid diffraction neural networkmatrix multiplicationmodulation limitationslesion detection network
发现论文，激发创造
  • 使用衍射深度神经网络的全光机器学习

    使用光学全衍射深度神经网络 (D2NN) 进行手写数字分类和成像透镜功能的学习，可以在光速下执行复杂函数，该技术具有潜在的光学图像分析和对象分类应用，并能够实现独特的任务。

    Apr, 2018

  • 散射光学网络的集成学习

    本文介绍了利用深度学习设计 Diffractive Deep Neural Networks (D2NNs) 进行光计算，在特征工程和集成学习方面的改进，以提高其图像分类准确度，并在 CIFAR-10 测试图像上达到了 61.14％和 62.13％的盲测试准确率，是目前任何衍射光神经网络设计方法在相同数据集上所取得的最高推理准确度，并可能提供跨越衍射光影像分类和机器视觉系统应用空间的重大飞跃

    Sep, 2020

  • 使用集成衍射光学计算单元进行全光学图形表示学习

    使用 photon 而非 electron 进行类脑计算的光子神经网络通常能实现更强的计算性能。本文提出了一种全光学图表示学习体系结构，称为衍射图神经网络（DGNN），它基于集成的衍射光子计算单元（DPUs），能够处理图结构数据。DGNN 捕获节点邻域之间的复杂依赖性，并通过图结构上的光速光传递消除非线性过渡函数。该工作为使用深度学习高效处理大规模图数据结构的应用特定集成光学电路设计开辟了一条新的道路。

    Apr, 2022

  • 可编程衍射与数字神经网络的集成

    光学成像和传感系统基于衍射元件取得了巨大的进展，最近使用深度学习和数字神经网络的研究努力使衍射处理器与数字神经网络合作优化，建立了输入电磁波与后端处理数字化信息之间的新的 “衍射语言”，从而为各种应用提供了巨大的潜力。

    Jun, 2024

  • 金字塔衍射光学网络的单向放大与缩小

    P-D2NN 设计是一种金字塔结构的衍射光学网络，专门优化了单向图像放大和缩小的任务，通过金字塔缩放的衍射层实现了高保真度的放大或缩小图像操作，并能在大范围的光照波长下保持其单向图像放大 / 缩小功能，可用于设计特定任务的视觉处理器。

    Aug, 2023

  • 物理感知可微离散协同设计用于衍射光学神经网络

    本文提出了一种新的设备到系统硬件软件协同设计框架，使用 Gumbel-Softmax 实现了不同 iable 离散映射到 DONN 的前向函数，使得 DONN 在低精度光学设备上表现出显著的优势，并且已在实验中进行验证。

    Sep, 2022

  • 大核心超材料神经网络的数字建模

    提出了一种新颖的大卷积核变形材料神经网络（LMNN），通过模型重新参数化和网络压缩来最大化最先进的元件网络（MNN）的数字容量，并明确考虑了光学限制，实验结果证明这种优化的混合设计提高了分类准确性同时减少了计算延迟。

    Jul, 2023

  • QuATON：光神经元的量化感知训练

    光学神经架构（ONA）使用具有优化的物理参数的编码元素进行智能测量，提出了一种物理信息量化感知训练框架，该方法在训练过程中考虑了物理约束，导致了稳健的设计。在不同量化水平和数据集上进行了大量实验，表明我们的方法导致了对量化噪声稳健的 ONA 设计。

    Oct, 2023

  • 超振荡衍射神经网络在超分辨率成像中的应用

    光学超振荡技术可实现超越衍射极限的远场超分辨成像，但现有空间超分辨成像系统中的超振荡透镜仍存在性能限制。我们提出了一种光学超振荡衍射神经网络，即 SODNN，它在现有方法的基础上具有卓越的性能，能够实现超越衍射极限的超分辨空间分辨率。通过利用衍射层来实现光学互联，并利用成像样本或生物传感器实现非线性，SODNN 调制入射光场，在三维空间中产生光学超振荡效应并生成超分辨焦点。通过在入射波长为 λ 的条件下优化衍射层、在远场距离 400λ 内产生了一个半高全宽为 0.407λ 的超振荡斑点，并且场景范围内无副瓣且具有超过 10λ 的长景深。此外，SODNN 实现了多波长和多焦点斑点阵列，有效避免了色差。我们的研究将激发智能光学仪器的发展，以促进成像、传感、感知等应用。

    Jun, 2024

  • 光学衍射神经网络的物理感知粗糙度优化

    本文提出了一种基于物理的训练框架和稀疏技术的交错光学神经网络，可显著提高数字仿真与实际部署之间的预测精度，并在 MNIST、FMNIST、KMNIST 和 EMNIST 上分别实现了 35.7％、34.2％、28.1％和 27.3％的减小粗糙度且只有少量的精度损失。

    Apr, 2023