ICMLJul, 2018

用于评估体系结构性能的 Boo (n)

PDF
TL;DR本文提出了一种纠正深度学习架构评估中普遍问题的方法，即使用最好的单一模型表现来评估。我们提出了一种规范化的预期最佳 -$n$（$ ext {Boo}_n$）表现来解决由于训练过程中的随机因素（包括随机参数初始化和数据排列）所导致的波动性问题。
deep learningmodel performancestochasticityrandom data shufflingboo_n
发现论文，激发创造
  • 评估指标需要更新以促进泛化

    该研究提出了一种新的模型评估指标 - WOOD 分数，以防止模型过拟合与其性能在 OOD 数据上的降解。

    Jul, 2020

  • 深度图贝叶斯优化的深度神经架构搜索

    本文提出一种基于 Bayesian 图神经网络作为新的代理函数的方法，能够自动提取深度神经架构中的特征，并使用学到的特征来拟合和表征黑箱目标及其不确定性，将其用于应对深度神经架构搜索的挑战性任务，实验结果表明该方法在基准任务上明显优于比较方法。

    May, 2019

  • 基于贝叶斯优化和最优传输的神经网络自动架构搜索

    本文提出了一种名为 NASBOT 的基于高斯过程的 BO 框架，用于神经结构搜索，通过计算神经网络结构空间中的距离度量，取得了比其他替代方法更好的性能，在多层感知器和卷积神经网络的交叉验证模型选择任务中得到了证实。

    Feb, 2018

  • 展示你的工作：实验结果的改进报告

    通过使用验证数据和计算预算等指标，本文提出了一种新的模型比较方法，从而帮助实现更好地汇报实验结果和确保未来准确对比。

    Sep, 2019

  • 利用随机先验网络进行高维输出的可伸缩贝叶斯优化

    本文提出了一个深度学习框架，基于具有随机先验的 bootstrap 整合的神经体系结构，用于贝叶斯优化和连续决策。该框架能够在高维输出的情况下逼近设计变量和感兴趣数量之间的函数关系，测试表明该方法在优化轮毂叶片的形状等高度复杂的任务中具有明显的优越性。

    Feb, 2023

  • BANANAS: 基于神经架构的贝叶斯优化神经结构搜索

    本文通过先识别出五个主要组成部分：架构编码、神经预测器、不确定性校准方法、采集函数和采集优化策略，对 “BO + 神经预测器” 框架进行彻底分析。在每个部件中测试了几种不同的方法，并且还开发了一种新的基于路径的编码方案。最终我们提出了一个名为 BANANAS 的算法，它在 NAS 搜索空间中实现了最先进的性能。

    Oct, 2019

  • 利用性能预测加速神经架构搜索

    本文提出了一种利用标准频率回归模型通过网络架构、超参数和时间序列验证性能数据来预测部分训练模型配置的最终性能的方法，并证明该方法在视觉分类和语言建模领域中是有效的。同时，我们提出了一种早期停止方法，可用于超参数优化和元模建模，加速了模型配置的优化过程，该方法在强化学习 - based 架构选择算法和基于贝叶斯思想的搜索方法中均可无缝集成。

    May, 2017

  • 迭代学习的贝叶斯优化

    本文提出了一种基于贝叶斯优化的方法，该方法可以利用学习算法的迭代结构来有效地调整超参数。在深度强化学习和卷积神经网络训练中，我们的算法通过选择最佳超参数的方式，以最小时间成本实现了调优。

    Sep, 2019

  • 聪明的基准测试 AI 加速器 —— 以性能代表为基准

    通过利用目标硬件架构和初始参数扫描，我们提出了一种新的性能建模方法，显着减少了训练样本的数量，同时保持较高的准确性。我们的方法针对单层估计达到 0.02% 的平均绝对百分比误差（MAPE），针对整个深度神经网络的估计达到 0.68% 的 MAPE，仅需不到 10000 个训练样本，相比于随机抽样的模型，实验结果证明了我们方法在单层估计中的优越性。

    Jun, 2024

  • 输入噪声下的稳健多目标贝叶斯优化

    本文提出了一种新的多目标贝叶斯优化方法，旨在解决存在输入噪声的多目标优化问题，通过优化多维风险价值 (MVaR) 来产生适应噪声并能够满足多个指标要求的最优设计。

    Feb, 2022