本文回顾了如何使用最优数据选择技术来优化一些类型的机器学习算法,包括前馈神经网络、高斯混合模型和局部加权回归,并探讨了此方法如何降低训练数据量,提高模型性能。
Mar, 1996
神经网络在形式语言学习任务中表现出了较好的逼近能力,然而,理论上证明了某些结构可以达到完美的广义,但实际上常用的目标函数(如 L1、L2 正则化、early-stopping 和 dropout)并不能得到理论上正确的解,而采用最小描述长度目标函数则能达到最优解。
Feb, 2024
本文通过实证方法评估被从业者和理论界广泛认可的神经网络的常见假设,并证明了神经网络的损失函数存在着许多亚最优解,小范数参数不是泛化的最优解,ResNets 不符合宽网络理论,而且跳跃连接与批归一化之间的相互作用起到了作用,且在实际环境中,排名与泛化或鲁棒性无关。
Oct, 2019
该研究阐述了建立和理解人工智能系统的基本思想:从符号方法到统计学习,再到基于因果关系概念的干预模型,其中一些机器学习和人工智能的难题内在地与因果关系有关,而进展可能需要我们加深对如何从数据中建模和推断因果关系的理解。
Apr, 2022
基于神经科学中贝叶斯方法对脑功能的启示,我们提出了一个简单的概率推断理论,用于统一描述推理和学习。我们通过符号逻辑中知识的可满足性模拟数据如何引发符号知识的过程,即抽象过程和选择性无知。我们讨论了推理的逻辑后果关系以及基于实验证据的 MNIST 数据集的经验正确性。
本文综述了近年来人工神经网络和机器学习领域所取得的进展和对于成功和微妙性的理解,通过数值实验和简化模型的分析,以及严谨的数学结果,讨论对于这个快速发展领域最重要的开放性问题。
Sep, 2020
机器学习在预测方面已经取得了很大进展,但缺乏通用人工智能,研究表明因果推断是实现机器推理和机器智能的一种重要方法,本文通过统计数据学习框架、分布分类任务和卷积神经网络特征等方面的研究,提出了一种可扩展、具有强大理论保证且在多个实际基准测试中取得最新成果的新因果推断算法。
Jul, 2016
本文讨论了将深度学习与科学相结合以解决机器学习系统中的严谨性、安全性和可解释性的问题,并提出了关键缺失的假设和测试阶段以及统计和系统不确定性估计。同时,探讨了当前科学在其他领域中的应用,为机器学习研究人员提供了一些有用的实践建议。
Apr, 2019
本文介绍如何利用因果推断来理解与环境交互并预测系统变更的后果,从而使人类和算法能够选择改变,以改善系统的短期和长期性能。作者还通过对 Bing 搜索引擎广告放置系统的实验来说明他们的方法。
Sep, 2012
我们提出了一种因果学习模型,通过因果推断和干预研究物理现象的因果关系,并加强(或削弱)对潜在物理过程模型的信心。
Sep, 2023