complexity measures | BriefGPT

关键词complexity measures

搜索结果 - 11

深度神经网络中基于边界的泛化预测
在这项研究中，我们分析了在不同环境下基于边界距离的泛化预测方法，并提出了一种融合基础数据流形的新的基于边界距离的度量，该度量在大多数情况下能更好地预测泛化。同时，我们对这种方法的实用性和局限性进行了分析，并发现这个度量与之前的工作的观点是吻
PDFa month ago
利用 PAC-Bayes 理论和 Gibbs 分布进行具有复杂度度量的泛化界限
该研究利用分解的 PAC-Bayes 边界框架得出一个可适配任意复杂度度量的一般泛化边界，其中关键步骤是考虑一系列常用的分布：Gibbs 分布。该边界在概率上同时适用于假设和学习样本，允许复杂度根据泛化差距进行调整，以适应假设类和任务。
PDF4 months ago
IJCAI无嫉妒图切割的复杂性
这篇研究论文主要研究公平地分配一组异质可分资源给具有不同偏好的个体的问题，关注的是资源对应于一张连接图的边缘，每个个体必须被分配一块连通的图形，所考虑的公平概念是经典的无嫉妒性。该问题是 NP 完全的，我们分析了该问题相对于两个自然复杂度度
PDF7 months ago
AAAI分类器数据质量：一种基于几何复杂度的自动基线和见解生成方法
该研究开发了复杂度量度，可用于量化观测数据的分类复杂度并确定基准性能阈值，其有效突出可能被错误分类的数据区域和观测数据。
PDF3 years ago
NeurIPS 2020 比赛：深度学习的泛化预测
深度学习中的泛化是一个重要的问题，并且通过复杂度衡量的新进展有望更好地理解深度学习的机制，更好地应用于对未知数据的泛化，并提高模型的可靠性和鲁棒性。
PDF4 years ago
基于不同实例的情境臂和强化学习复杂度：一种基于反对的视角
该研究提出了一种用于上下文 Bandit 问题的复杂度度量方法，展示了其与最优实例相关遗憾的关系，并给出了新的算法来实现当存在一个最优选择时能够分辨性地进行探索。同时，该研究还在采用函数近似的强化学习问题上提出了新的算法，达到了优化的样本规
PDF4 years ago
神奇的泛化度量及其发现方法
通过系统地变化常用超参数来训练超过 10,000 个卷积网络，我们提出了深度网络推广的第一个大规模研究，并研究了来自理论界和经验研究的 40 多种复杂度衡量标准，探索每种衡量标准和推广之间的因果关系，并通过仔细控制的实验展示了一些衡量标准的
PDF5 years ago
基于偏好的批次和序列教学：迈向模型统一视角
该研究探索了算法机器教学中的不同教学模型和复杂度量度以及它们之间的联系，并提出了一种通过偏好函数刻画教学过程的新框架，通过比较不同的偏好函数诱导出的两种教学模型，即最强的批处理模型和较弱的顺序模型，并鉴别出诱导出 VC 维度为线性的新型顺序
PDF5 years ago
通过功能分解量化模型复杂度，以获得更好的事后解释性
提出了基于功能分解的模型不可知复杂度量度来量化任意机器学习模型的复杂度，并展示了在同时最小化损失和复杂度的多目标优化中应用这些量度的方法。
PDF5 years ago
探究过度参数化在神经网络泛化中的作用
本研究提出了基于单元能力的复杂度度量，为两层 ReLU 网络提供了更紧密的泛化界限，这可能有助于解释神经网络过参数化的泛化改进现象。同时，我们还提出了一个匹配的 Rademacher 复杂性下限，该下限优于之前神经网络的容量下限。
PDF6 years ago
深度学习中的隐式正则化
本研究探讨深度学习中的泛化现象，并发现隐式正则化通过优化方法在深度学习模型的泛化和成功方面起着关键作用，我们进一步研究了不同的复杂度度量，以确保泛化并解释了优化算法如何隐含地正则化这些复杂度度量，为了更好地研究神经网络中的不变量，我们提出了
PDF7 years ago