ICLROct, 2022

基于相关信息最大化的仿生神经网络进行相关源分离

PDF
TL;DR提出一种基于神经网络的生物学可行模型，它通过利用源域信息提取相关的潜在因素。该模型采用最大相关信息转移作为分离目标，遵循输出限制约束，从而具有本地学习规则。使用不同的源域选择，可灵活地建模复杂的潜在结构，从而具有出色的相关源分离能力。
发现论文，激发创造
  • 相关信息最大化：一种无需权重对称的监督式深度神经网络的生物学可行方法

    提出了一种新的神经网络层间激活的相关信息最大化的正式框架，从而解决了传统反向传播算法的生物学上的可信度问题，并提供了一种自然的权重对称问题的解决方案。

    Jun, 2023

  • 一种规范的、生物学上合理的独立分量分析算法

    提出一种新型的 ICA 算法，满足生物电路中的要求，涉及的关键词有盲源分离，独立分量分析，神经网络，突触可塑性和生物电路。

    Nov, 2021

  • 生物神经网络盲源分离

    利用神经网络从非负混合源中提取独立源，将盲源分离问题转化为相似性匹配问题，根据生物学上合理的局部学习规则来更新网络的突触权重。

    Jun, 2017

  • 理解基于潜在相关性的多视角学习和自监督：一个可识别性视角

    本文旨在从潜在组件识别的角度理解基于最大化相关性的深度多视角学习，并采用一种直观的生成模型来分析多视角数据，它是共享和私有组件的不同非线性混合物，通过最大化潜在相关性，可以保证从各个视角提取共享组件（在一定程度上）并且还证明了通过适当的正则化设计，每个视图中的私有信息可以被明确地分离出来。

    Jun, 2021

  • 基于成对相关性预测神经活动的时空模式

    本研究基于最大熵理论和马尔可夫假设，以模型为基础实现了对分布式脉冲活动中人口模式出现的预测，并成功优于只考虑成对相关性的伊辛模型。同时，实验数据表明这种方法也适用于慢波睡眠等过程的分析。

    Mar, 2009

  • 朝着更加生物可行的神经网络潜在因果推断模型的方向

    通过实现一种基于神经网络模型的潜在因果推断（LCI）假设，本研究提供了一种生物学上可行的计算模型，该模型可以在实验室和自然环境设置中操作，从而为事件认知提供了统一的模型。

    Dec, 2023

  • 分析大脑对自然信号的反应：最大化信息维度

    本研究提出了一种用于分析神经响应自然刺激的方法，该方法克服了这些刺激所具有的非高斯性和强相关性。该方法基于投射低维子空间上的刺激和神经响应之间的互信息最大化，可以用来确定神经元的输入 - 输出功能，从而更好的理解神经元的功能对刺激的响应。

    Dec, 2002

  • 从规范相关分析到自监督图神经网络

    本文介绍了一种用于自监督图数据表示学习的概念简单而有效的模型，其通过数据增强生成输入图的两个视图，并通过受经典标准相关分析启发的创新特征级目标进行优化，旨在学习不变表示，并通过不同维度中的相关特性来防止退化解决方案，最终在七个公共图数据集上表现竞争力。

    Jun, 2021

  • 信息最大化准则的自监督学习

    本文介绍一种基于互信息的 self-supervised 方法 CorInfoMax，该方法通过最大化高斯混合分布下的互信息解决了 mode collapse 和 dimensional collapse 问题。

    Sep, 2022

  • 音源分离基于潜在变分分块解缠

    混合经典数字信号处理 / 深度神经网络的方法用于源分离任务，通过设计合理的潜在空间，将单通道欠定的源分离问题转化为等效的多通道过定的问题，并使用变分块间分离表征混合信号，通过经典信号处理理论结果的启发，提出可靠性更强、过拟合风险降低的模型。

    Feb, 2024