Mar, 2024

基于轻量级向量符号架构的脑机接口定时知识获取

PDF
TL;DR我们提出了一种基于课程数据顺序的简单计划的知识蒸馏方法，以使学生能够逐渐从教师模型中建立知识，通过 α 计划控制。同时，我们采用 LDC/VSA 作为学生模型，以增强低延迟要求的微型 BCI 设备的设备内推理效率。实证结果表明，与其他方法相比，我们的方法在精度和硬件效率之间实现了更好的平衡。
发现论文，激发创造
  • 基于混合范式的脑机接口控制机械臂

    本文提出了一种基于知识蒸馏的框架，通过混合范式诱导的 EEG 信号操纵机械臂以实现实用化，并证实使用分层模型和知识蒸馏可以提高简单结构的性能。

    Dec, 2022

  • 稀疏二进制超向量的认知建模与学习

    基于 VSA 理论框架，提出了一种使用稀疏二进制超向量的认知模型，并引入学习算法来从输入数据流中引导模型的训练，在有效性和透明度方面有了显著改进。该模型模拟人类认知过程，在会话中可以进行在线训练，并探索了在自然语言处理领域中利用这些超向量进行词级嵌入的进一步应用。

    Sep, 2023

  • 本地化符号化知识蒸馏用于视觉常识模型

    使用局部可见的常识模型来训练视觉 - 语言模型以支持图像内部推理。

    Dec, 2023

  • 知识蒸馏：综述

    该论文从知识分类、训练方案、教师 - 学生架构、蒸馏算法、性能比较和应用等方面全面调查了知识蒸馏。并简要回顾了知识蒸馏中的挑战，并探讨了未来的研究方向。

    Jun, 2020

  • 基于自注意力的矢量符号结构的语义分解

    基于自注意力的更新规则和 Hopfield 网络的 log-sum-exp 能量函数及范数限制状态的新变体共振器网络被引入，可显著提高性能和收敛速度，使得算法具有更大的关联记忆能力，可应用于感知基模式识别、场景分解和物体推理等多个任务。

    Mar, 2024

  • 知识蒸馏的视觉语言模型压缩

    本文提出 VL distillation，使用知识蒸馏方法将基于 transformer 的大型 VL 模型压缩成小型 VL 模型，以提高图像字幕生成和视觉问答任务中的性能。

    Apr, 2021

  • 优秀的学生具备合作和可靠性：CNN-Transformer 语义分割的协同学习

    本文介绍了一种在线知识蒸馏框架，通过选择和交换可靠知识来协同学习基于卷积神经网络（CNN）和视觉变压器（ViT）的模型，以进行语义分割。经过大量实验验证，我们提出的框架在大幅领先于现有的在线蒸馏方法的同时，展示了 ViT 和 CNN 模型之间协同学习的有效性。

    Jul, 2023

  • 提炼归纳偏见：超越模型压缩的知识蒸馏

    通过集成式蒸馏方法从轻量级教师模型中蒸馏归纳偏差，我们介绍了一种创新的蒸馏方法，以支持视觉转换和文本领域之间的统一信息处理，提高了学生性能，并减轻了计算负担和提高了效率。

    Sep, 2023

  • MindDiffuser：使用语义和结构扩散从人类大脑活动进行受控图像重建

    我们提出了一种名为 MindDiffuser 的两阶段图像重建模型，通过使用 fMRI 进行前向估计和反向传播来实现想定图像的语义和结构信息的精确对齐，实验结果表明该模型在自然场景数据集上超过了现有的最先进模型，并且与相应的大脑反应呈现的多模态特征解释力一致，从而证实其神经生物学的合理性。

    Aug, 2023

  • 稀疏时空脑机接口的分解方法

    本研究提出了一种稀疏情况下基于因子分解的脑机接口信号处理方法，通过采用不同的特征提取器从潜空间获取不同表示并最小化潜空间共享情况，成功地提取到了稀疏条件下的脑电信号的决定性特征。

    Jun, 2022