Jun, 2024

基于边缘智能脑机接口应用的神经解码骨干算法评估

PDF
TL;DR传统侵入性脑机接口通常依赖于在实验室环境中工作站上进行的神经解码过程，制约了其日常使用。本研究旨在识别一种在边缘设备上实施的具有强大性能和快速推理能力的最佳神经解码框架。通过进行一系列神经解码实验，评估四个潜在的模型（Gated Recurrent Unit（GRU）, Transformer, Receptance Weighted Key Value（RWKV）和 Selective State Space model (Mamba)）在多种指标上的表现，如单次会话解码、多次会话解码、新会话微调、推理速度、校准速度和可扩展性。研究结果表明，虽然 GRU 模型提供了足够的准确性，但 RWKV 和 Mamba 模型由于具有更优异的推理速度和校准速度而更可取。此外，RWKV 和 Mamba 符合比例定律，在较大的数据集和增加的模型大小下表现出更好的性能，而 GRU 的可扩展性不太明显，Transformer 模型要求的计算资源过大。本文在各种场景下对这四个模型进行了全面的比较分析。研究结果对于确定能够处理不断增长的数据量并可用于边缘实施的最佳框架至关重要，为该领域的持续研究和实际应用提供了重要见解。
brain-computer interfacesneural decodingedge devicesneural decoding backboneinference speed
发现论文，激发创造
  • ANN vs SNN：植入脑机接口中神经解码的案例研究

    此研究通过比较不同的神经网络进行运动解码，并结合传统信号处理技术与机器学习方法，在原始数据源处提取信息以解决无线可植入脑机接口中数据速率增加的问题，获得了令人惊喜的性能表现。

    Dec, 2023

  • 离散单元引导的面罩建模：从颅内神经信号解码语音

    通过构建多元神经表示，Du-IN 模型可以从特定的脑区提取上下文嵌入，从而在语言相关的脑网络上实现了 SOTA 性能。

    May, 2024

  • 解码神经信号为语音

    在该论文中，我们首次探索了基于跨注意力的 “whisper” 模型，通过 MEG 信号直接生成文本，而无需教师强制，实现了令人印象深刻的 60.30 和 52.89 的 BLEU-1 得分，该论文还对有关神经解码任务的语音解码形成进行了全面的回顾。

    Mar, 2024

  • 深度表示学习用于开放词汇的脑电图到文本解码

    使用预训练语言模型对无创脑机接口（BCI）通过脑电图（EEG）信号进行解码的潜力进行了研究，提出了一个具有先进表示学习方法的无创脑电记录的端到端深度学习框架，并使用新的评估指标验证了该框架在解码效果方面的优越性。

    Nov, 2023

  • 基于转移学习图神经网络的异构电极配置数据集的 EEG 信号解码

    通过使用图神经网络和转移学习技术，可以有效地从多个使用不同电极布局的 EEG 数据集中聚合知识，从而在主体独立的 MI EEG 分类中实现更好的泛化。

    Jun, 2023

  • RWKV：为 Transformer 时代重新设计 RNN

    本文提出了一种名为 Receptance Weighted Key Value（RWKV）的新型模型体系结构，它将 Transformer 的并行训练与 RNN 的高效推理相结合，并利用了线性注意机制，使模型既可以被阐释为 Transformer，也可以被阐释为 RNN，从而在训练期间并行计算，并在推理期间保持计算和记忆的复杂度恒定，从而成为第一个可扩展到数十亿参数的非 Transformer 架构，实验表明，RWKV 的表现与同样大小的 Transformer 相当，在序列处理任务中为权衡计算效率和模型性能迈出了重要的一步。

    May, 2023

  • 神经机器翻译的后期最小贝叶斯风险解码

    本研究提出使用最小贝叶斯风险编解码技术 (MBR) 来消除基于 beam search 算法的模型自信度导致的输出错误，并使用 GPU 批量计算贝叶斯风险值以加速解码，并在机器翻译中验证后期 MBR 解码的优越性。

    Apr, 2017

  • 基于深度神经网络的通道解码性能评估

    本文研究了深度神经网络在 5G 网络方案中的应用，着重对多层感知机，卷积神经网络和循环神经网络进行了探讨与比较，发现循环神经网络性能最佳但计算负载最大，三种神经网络具有饱和长度限制。

    Nov, 2017

  • 神经机器翻译的高效推断

    该论文通过深度编码器和浅层解码器结构、多头注意力修剪以及将解码器自注意力替换为简化的循环单元等方法，可以在不降低翻译质量的情况下，在 CPU 和 GPU 上分别获得高达 109% 和 84% 的加速，并将参数数量减少 25%。

    Oct, 2020

  • Mamba 或 RWKV：探索高质量和高效率的分段任意模型

    通过探索不同的线性注意力架构，设计了一种高效的分割模型 RWKV-SAM，具有最佳的精度和效率。同时，利用多尺度令牌设计了一个高质量的解码器来获取高质量的蒙版，并在各种高质量的分割数据集上训练了一个高效且高质量的模型。在效率和分割质量方面，RWKV-SAM 相对于 Transformer 和其他线性注意力模型表现出色，并超过了最近的视觉模型 Mamba。

    Jun, 2024