Mar, 2023

BO-Muse: 一种人工专家和 AI 协同框架，加速实验设计

PDF
TL;DR本文介绍了 BO-Muse—— 一种新的人工智能团队优化昂贵黑盒函数的方法。该算法让人类专家在实验过程中发挥其领域专业知识的全部潜力，并通过注入新颖性和寻找弱点来打破认知固化所引发的过度开发。在合理的假设下，我们证明了该算法以次线性速率收敛且比单独使用人工智能或人类更快。我们使用人类专家进行实际实验和合成数据对其进行验证。
human-ai teamingblack-box optimizationexpert knowledgeexperimental designsub-linear convergence
发现论文，激发创造
  • 利用积极征询专家知识增强的贝叶斯优化

    本文介绍了一种基于贝叶斯优化的多任务学习方法，其中引入了专家知识进行加速优化，并通过 Siamese 神经网络进行知识收集，实验结果表明，该方法可以显著加速优化过程。

    Aug, 2022

  • 人类参与协作和可解释性贝叶斯优化

    我们提出了一种协作和可解释的贝叶斯优化框架（CoExBO），它通过优先学习无缝地将人类洞察力整合到优化中，为用户提供与其偏好相符的算法建议，并通过解释候选项选择来建立信任，使用户对优化有更清晰的掌握。此外，CoExBO 提供不会造成损害的保证，允许用户犯错误；即使进行极端对抗性干预，该算法也渐进地收敛到一个标准的贝叶斯优化方法。通过在锂离子电池设计中进行人工智能协作实验，我们验证了 CoExBO 的有效性，并凸显了与传统方法相比的显著改进。

    Oct, 2023

  • 通过优先建模抽象属性的增强贝叶斯优化

    我们提出了一种人工智能与人类专家协作的贝叶斯框架，将未测量的抽象属性的专家偏好引入代理模型，进一步提高贝叶斯优化的性能。实验结果表明，我们的方法在合成函数和真实数据集上优于基准方法。

    Feb, 2024

  • 基于人类专业知识的可解释模型：优先采用专家混合模式

    提出了一种名为 Preferential MoE 的人类 - 机器学习混合专家模型，它可以根据决策中有无人类专家经验的必要性，在需要时对数据分类器进行增强。该模型展示了可解释的门控函数，提供何时遵循或避免人类规则的信息。提出了解决具有凸次问题的耦合多目标问题。提出近似算法并研究其性能和收敛性。最后，我们演示了 Preferential MoE 在治疗人类免疫缺陷病毒（HIV）和管理重度抑郁症（MDD）的两个临床应用中的实用性。

    Jan, 2021

  • 专家引导的贝叶斯优化方法用于已知系统的人机交互式实验设计

    通过高通量（批处理）贝叶斯优化和人类决策理论，本文提出一种方法，使领域专家能够影响最优实验的选择。该方法旨在解决人类在离散选择上比连续选择更擅长的假设，并在每次迭代中通过求解增广多目标优化问题返回备选解集合，从中专家选择一个进行评估。研究表明，即使在无经验的情况下，该算法仍能恢复标准贝叶斯优化的遗憾。

    Dec, 2023

  • HypBO: 专家引导化学家参与贝叶斯搜索新材料

    机器人技术和自动化为解决材料发现等难以处理的多变量科学问题提供了巨大的加速，而巨大的搜索空间可能令人望而生畏。贝叶斯优化（BO）已成为一种流行的高效样本优化引擎，在目标函数 / 属性没有已知的解析形式的任务中蓬勃发展。本文利用专家人类假设的形式来更快地将贝叶斯搜索定向到化学空间的有前途的区域。我们提出的方法称为 HypBO，利用专家人类假设生成改进的样本种子。不太有希望的种子被自动折扣，而有希望的种子被用于增加代理模型数据，从而实现更有信息的抽样。这个过程在一个全局与局部搜索的框架中继续进行。我们在一系列合成函数上验证了我们方法的性能，并在一个真实的化学设计任务上展示了其实用性，其中使用专家假设显著加速了搜索性能。

    Aug, 2023

  • 可解释的贝叶斯优化

    提出了一种基于规则的解释性方法 TNTRules，通过多目标优化生成高质量解释，从而弥合 Bayesian optimization 和 XAI 之间的差距。通过对基准优化问题和实际超参数优化任务的评估，证明了 TNTRules 在生成高质量解释方面优于现有的 XAI 方法。该研究为 BO 和 XAI 的交叉领域做出贡献，为实际应用提供了可解释的优化技术。

    Jan, 2024

  • 在连续空间中集成人类专业知识：一种新颖的交互式贝叶斯优化框架与偏好预期提升

    交互式机器学习（IML）旨在将人类专业知识整合到机器学习过程中。我们提出了一种基于贝叶斯优化（BO）的新框架，即交互式贝叶斯优化（IBO），以实现机器学习算法和人类之间的协作，以确保机器能够从人类专业知识中受益，实现更加协调和有效的学习过程，并通过模拟和使用 Franka Panda 机器人在真实世界任务中展示人机协作。

    Jan, 2024

  • 构建有效的人工智能团队：建立能够补充多种专业能力的机器学习模型

    通过联合训练分类器和分配系统的方式来补充多个人类专家的能力，实现了对于人类专家难以预测的情况进行准确预测，并将任务分配给最合适的小组成员，该方法在多个实验中均表现出优越的性能。

    Jun, 2022

  • 通过隐式微分改进边际无偏评分扩展 (MUSE)

    采用隐式微分技术来提高性能，减少数值误差，并消除在层次贝叶斯推断中需要用户调整的 MUSE 算法。我们在三个典型的推断问题上展示了这些改进，并且在我们的测试案例中，MUSE 隐式微分的速度比 Hamiltonian Monte Carlo 分别快了 155、397 和 5 倍，在没有隐式微分的情况下分别快了 65、278 和 1 倍，并产生了好的近似边际后验分布。Julia 和 Python MUSE 软件包已经更新为使用隐式微分，并且可以解决手动定义或使用任何流行的概率编程语言和自动微分背景定义的问题。

    Sep, 2022