Jan, 2024

可解释的贝叶斯优化

PDF
TL;DR提出了一种基于规则的解释性方法 TNTRules，通过多目标优化生成高质量解释，从而弥合 Bayesian optimization 和 XAI 之间的差距。通过对基准优化问题和实际超参数优化任务的评估，证明了 TNTRules 在生成高质量解释方面优于现有的 XAI 方法。该研究为 BO 和 XAI 的交叉领域做出贡献，为实际应用提供了可解释的优化技术。
bayesian optimizationexplanationcyber-physical systemsxaitntrules
发现论文，激发创造
  • 人类参与协作和可解释性贝叶斯优化

    我们提出了一种协作和可解释的贝叶斯优化框架（CoExBO），它通过优先学习无缝地将人类洞察力整合到优化中，为用户提供与其偏好相符的算法建议，并通过解释候选项选择来建立信任，使用户对优化有更清晰的掌握。此外，CoExBO 提供不会造成损害的保证，允许用户犯错误；即使进行极端对抗性干预，该算法也渐进地收敛到一个标准的贝叶斯优化方法。通过在锂离子电池设计中进行人工智能协作实验，我们验证了 CoExBO 的有效性，并凸显了与传统方法相比的显著改进。

    Oct, 2023

  • 利用积极征询专家知识增强的贝叶斯优化

    本文介绍了一种基于贝叶斯优化的多任务学习方法，其中引入了专家知识进行加速优化，并通过 Siamese 神经网络进行知识收集，实验结果表明，该方法可以显著加速优化过程。

    Aug, 2022

  • 基于贝叶斯优化的多样解发现

    ROBOT 使用排序和信任区间的方法来找到不同的高性能解决方案，相较于寻找单一最佳解决方案，只需要进行少量的额外函数评估。

    Oct, 2022

  • 迭代学习的贝叶斯优化

    本文提出了一种基于贝叶斯优化的方法，该方法可以利用学习算法的迭代结构来有效地调整超参数。在深度强化学习和卷积神经网络训练中，我们的算法通过选择最佳超参数的方式，以最小时间成本实现了调优。

    Sep, 2019

  • 基于贝叶斯优化的可持续工艺系统灵活高效设计框架

    贝叶斯优化是一种强大的技术，可用于优化噪声大、昂贵难评估的黑箱函数，在科学、工程、经济、制造等领域具有广泛的实际应用。本文概述了贝叶斯优化在下一代过程系统设计中的最新进展、挑战和机遇，并介绍了如何利用高级贝叶斯优化方法更有效地解决这些应用中的重要问题。最后，我们总结了提高概率模型质量、选择下一个样本点的内部优化过程以及利用问题结构提高样本效率方面的挑战和机会。

    Jan, 2024

  • 机器学习算法的实用贝叶斯优化

    本研究基于贝叶斯优化框架，建立高斯过程模型，通过前期实验获得的信息来优化机器学习算法的超参数调整，作者提出可以超过经验人类调参表现的自动算法，并介绍收集实验信息、利用多核心并行实验等新算法。

    Jun, 2012

  • 贝叶斯优化的迁移学习：综述

    该研究论文介绍基于贝叶斯优化的迁移学习方法，从初始点设计、搜索空间设计、代理模型和获取函数等四个方面总结其方法论和技术细节。同时，论文彰显了该方法在广泛应用中的优点，并提出了未来的研究方向。

    Feb, 2023

  • 贝叶斯优化在机器学习超参数调节方面优于随机搜索：对 2020 年黑匣子优化挑战的分析

    本文介绍了 NeurIPS 2020 的黑盒优化挑战赛结果和洞见，强调了评估无导数优化器以调整机器学习模型的超参数的重要性，并在真实数据集上基于多个标准机器学习模型的调整性能进行了排名。

    Apr, 2021

  • 基于自适应主动学习的约束贝叶斯优化

    通过理论和实践方面的研究，发现在拥有噪声的约束贝叶斯优化中，通过识别高置信度兴趣区域，相交这些区域得出最终兴趣区域，并利用平衡优化和可行区域识别的新型获取函数，为其性能获得严谨的理论证明。

    Oct, 2023

  • 利用随机先验网络进行高维输出的可伸缩贝叶斯优化

    本文提出了一个深度学习框架，基于具有随机先验的 bootstrap 整合的神经体系结构，用于贝叶斯优化和连续决策。该框架能够在高维输出的情况下逼近设计变量和感兴趣数量之间的函数关系，测试表明该方法在优化轮毂叶片的形状等高度复杂的任务中具有明显的优越性。

    Feb, 2023