结构化神经网络用于密度估计和因果推断
本文研究了如何将更丰富的结构分布用于深度神经网络中的嵌入式分类推理,通过两种不同的结构注意力网络:线性链条件随机场和基于图形的解析模型的实验,展示了这些结构的注意力网络超过了基线的注意力模型在各种合成和真实任务中的表现。
Feb, 2017
本文提出一种基于贝叶斯网络结构学习的方法,用于无监督结构学习深度神经网络,通过生成图,构建其随机反向,然后构建一个判别图,证明生成图的潜变量之间的条件依赖关系在条件 “分类条件下” 丢失在判别图,从而实现通用网络深层(卷积和密集)的学习结构替代,在保持分类准确性的同时显著减少计算成本。
Jun, 2018
本研究提出了一种统一算法,以高效学习一类广泛的线性和非线性状态空间模型为主,包括由深度神经网络建模的发射和转移分布,使用结构化变分逼近参数化的循环神经网络来模拟后验分布,同时学习编译的推理网络和生成模型。通过应用于合成和真实数据集,本算法展现了其可扩展性和通用性,并发现使用结构化的后验近似会导致具有显著更高留存的可能性的模型。
Sep, 2016
该论文提出了一种灵活的框架,将因子图和神经网络的代表性强项结合起来,形成了一种能够在任何顺序下执行计算的不定向神经网络(UNNs),并证明了 UNNs 体系结构的有效性,包括树约束依赖关系分析、卷积图像分类和序列完成等任务。
Feb, 2022
本文提出了一种基于进化算法的结构构建方法,通过集成知识蒸馏和连接修剪方法,优化 SNN 的突触连接以达到最优状态,并在 CIFAR100 和 DVS-Geste 上进行了实验,结果表明该方法可以在降低连接冗余的同时获得良好的性能。
Apr, 2023
本文提出了一种基于神经网络的结构化预测能量网络方法,使用经过训练的神经网络来进行结构化 argmax 推理,同时开发了大边界训练准则以实现对能量函数和推理网络的联合训练。在多标签分类和序列标注等任务中,该方法能够在保持或提高准确性的同时大幅提升推理速度。
Mar, 2018
本文提出了一种新的方法:结构化代理网络(SPN),它结合了条件随机场(CRFs)和图神经网络(GNNs)的优点,通过解决一个近似的优化问题来有效学习模型,用于无标签测试图上的节点标签推断,实验结果表明 SPN 优于许多竞争对手。
Apr, 2022
提出了一种将概率图模型和深度学习相结合的模型框架,通过将神经网络用于观测模型,提高了潜在变量的图形结构;针对推断,使用了可视化的自编码器,利用识别网络输出共轭潜力的图形模型近似分布;所有的这些模型组件都是同时学习的,从而得到了一种可扩展的算法,利用了随机变分推断、自然梯度、图形模型信息传递和重参数化技巧。此模型框架的示例模型和应用程序向小鼠行为表型学方法提出了有效的解决方案。
Mar, 2016
这篇论文提出了一种基于 Bayesian 模型的 dropout 正则化方法,该方法将噪声注入神经元输出中以提供结构化稀疏性,从而去除计算图中的低 SNR 元素,并在多个深度神经结构中实现了显著的加速。
May, 2017
本篇论文首次提出了一种网络模型,其可预测合成图像的结构化不确定性分布。模型可学习预测每个重构的完整高斯协方差矩阵,从而实现有效的采样和似然评估,通过该方法,能够准确地重构合成数据集的地面真实相关残差分布,并为真实面部图像生成可信度高的概率密度函数分布。同时,展示了合成图像的结构保留降噪方法。
Feb, 2018