Nov, 2016

饮食网络：为肥胖基因组而瘦身参数

PDF
TL;DR本文提出了一种新颖的神经网络参数化方法，通过将分布式表征与神经网络相结合，解决了基因组数据维数过高导致深度学习模型泛化性能较差的问题，并在人口分化的任务上取得了显著的参数数目和分类器误差率的降低。
genomic datadeep learningprecision medicineneural networkpopulation stratification
发现论文，激发创造
  • 高维生物数据上的特征选择网络 FsNet

    本文提出了一种名为 FsNet 的 DNN 基于非线性特征选择方法，针对高维度和小样本数据。实验结果显示，该方法在多个真实的生物数据集上表现出较高的有效性。

    Jan, 2020

  • 基于学生 - 老师框架的随机特征模型的在线学习

    研究了两层神经网络中过参数化对学生 - 教师框架的影响，发现只有当学生的隐藏层数量指数级大于输入维度时，才能达到完美的泛化。同时计算了其渐进的泛化误差。

    Mar, 2023

  • 深度神经网络的数据无关参数剪枝

    本研究探讨在已训练的神经网络模型中修剪神经元的问题并提出了一种系统性的方式去除冗余的相似神经元，并且通过在 MNIST 训练网络中修剪密集连接层，达到 85％ 的总参数去除率，在 AlexNet 上达到 35％去除率，并且没有明显影响其性能。

    Jul, 2015

  • 深度学习参数预测

    作者通过研究证明，多个深度学习模型的参数化存在显著冗余，只需几个权重值，即可准确地预测其余值，且许多权重值无需学习，通过学习小部分权重值并预测其余值，能在不降低准确性的情况下预测网络中超过 95% 的权重值。

    Jun, 2013

  • 高维非参数回归和分类的稀疏输入神经网络

    该论文提出了使用稀疏组套索惩罚来适应神经网络以解决非参数高维问题，其中真实功能位于低维子空间中，并对统计收敛性进行了表征。

    Nov, 2017

  • 多域深度神经网络的高效参数化

    本文提出用一些适量的参数区分不同的子任务，从而在视觉领域的多个任务中进行迁移学习，此类参数化极易压缩且具有较高的性能。

    Mar, 2018

  • 特征选择小样本表格生物医学数据的重量预测网络

    针对高维、小样本的表格型生物医学数据，我们提出了一种 Weight Predictor Network with Feature Selection（WPFS）神经网络。该网络通过特征选择和参数减少来学习高维、小样本数据，具有较好的性能，并提供了有用的学习洞察。

    Nov, 2022

  • 深度学习用于高效 GWAS 特征选择

    在 GWAS 数据中，本研究引入了一种针对超高维数据的特征选择方法，该方法利用 Frobenius 范数惩罚增强学生网络的适应能力，通过自动编码器或监督自动编码器进行维度约简，以及经过正则化的前馈模型进行精确特征选择，在实验中展示了其在 GWAS 数据特征选择中的高效性和灵活性。

    Dec, 2023

  • 稀疏高维数据上基于推理网络的学习挑战

    本文研究基于深度神经网络的非线性因子分析中的参数估计问题，探讨了大规模、稀疏、高维数据中的欠拟合问题，提出了受随机变分推断启发的迭代优化方法及改进的稀疏数据表示方法，实现了在文本计数数据集上的最新结果和在 Top-N 推荐任务上的优异表现。

    Oct, 2017

  • 神经网络超参数优化的有效算法

    本文中提出了一种基于箱限制数学优化问题的方法，运用光滑径向基函数模型及无导数优化工具去寻找神经网络的最佳参数。该方法是自动的且可有效地搜索参数空间，其应用于药物相互作用的预测中具有良好的效果，并且所用的优化工具是开源的。

    May, 2017