Aug, 2023

使用端到端光传播训练神经网络

PDF
TL;DR光学是下一代机器学习计算硬件的令人激动的方向，能够在计算速度和能源效率方面提供数个数量级的增强。本研究首次提出了一种简单而通用的方案，通过饱和吸收体作为激活单元，并通过泵浦 - 探测过程实现所需的性能以解决光学实现反向传播的挑战，从而展示了完全依赖于模拟光学过程进行训练和推理任务的神经网络的构建可能性。
发现论文，激发创造
  • 通过原位反向传播训练光子神经网络

    本文提出了一种新的方法，使用伴随变量方法导出光子反向传播算法的光学模拟，并通过在设备内进行强度测量来准确获得这些梯度，从而大大提高了光学神经网络的训练效率。

    May, 2018

  • 线性光学非线性处理

    研究使用多次散射的方法，在低光功率下实现具有程序控制的线性和非线性变换，实现光学多层网络的实现

    Jul, 2023

  • 光学神经网络的前向 - 前向训练

    本文介绍了一种利用光学系统实现神经网络训练的新路径，该方法使用了 Forward-Forward Algorithm 和多模非线性波传播等技术来提高 NN 性能。

    May, 2023

  • 具有连贯纳米光子电路的深度学习

    本篇论文提出新的光学神经网络架构，并利用光学的独特优势实现计算速度和能源效率的显著提升，最高分别达到目前技术水平的两个和三个数量级，此外使用可编程纳米光子处理器进行实验验证。

    Oct, 2016

  • 卷积神经网络的光学前端

    利用自由空间光学前端单元实现第一层的线性操作，然后通过电子方式实现后续层的混合光电架构，在 Kaggle 猫狗挑战数据库中获得了 87% 的图像分类精度。

    Dec, 2018

  • 高性能实际光学计算通过原地非模型优化训练

    光计算系统的实地优化是无模型的解决方案，基于分数梯度估计算法，其简单性和对计算资源的低需求加速了光计算从实验室演示到现实世界应用的过渡。

    Jul, 2023

  • 可编程衍射与数字神经网络的集成

    光学成像和传感系统基于衍射元件取得了巨大的进展，最近使用深度学习和数字神经网络的研究努力使衍射处理器与数字神经网络合作优化，建立了输入电磁波与后端处理数字化信息之间的新的 “衍射语言”，从而为各种应用提供了巨大的潜力。

    Jun, 2024

  • 利用被动光学非线性映射的深度学习

    介绍了一种利用混沌光学的技术为 Edge 计算设备提供了一种新的、能够提高运算性能且能够处理高度非线性特征的平台。

    Jul, 2023

  • 可重编程的电光非线性激活函数用于光学神经网络

    通过光电硬件平台实现了光学神经网络中的非线性激活函数，通过数值模拟，证明该激活函数能够显著提高神经网络的表现，使得其在多个任务上表现更好，如图像分类任务中精度从 85% 提升至 94%。

    Mar, 2019

  • 光学神经网络在每次激活时仅受限于量子噪音

    在超低功率机制下，研究光神经网络的行为，证明可以通过直接模拟光信号的随机性行为来训练具有极高噪声水平的光神经网络，实现高精度的确定性图像分类任务。

    Jul, 2023