本文介绍了一种基于 max-value entropy search 的多保真度贝叶斯优化(MF-MES) 方法, 该方法通过考虑最优函数值的熵, 而非最优输入点, 大大简化了计算, 并成功解决了信息熵的估计难题。同时, 文章还提出了 MF-MES 的并行化方案, 并通过材料科学数据等基准数据集的实验验证了该方法的有效性。

Jan, 2019

为了解决现有超参数优化基准缺乏现实性、多样性、低成本和标准化等问题，该研究提出了HPOBench基准，它包括多种实际且可复现的多保真度超参数优化基准问题，并提供计算成本较低的代理基准和表格基准以进行统计学评估。对于来自6种优化工具的13种优化器进行了大规模研究验证HPOBench的实用性。

Sep, 2021

通过自动化的 PET 模块结构搜索方法 S^3PET，我们能够以远远低于用于传统模型的可训练参数的预算对预训练模型进行微调，搜索得到的结构具有高度可迁移性和可解释性且在保留超过 99% 微调性能的同时，只需 0.01% 的可训练参数。

Jun, 2022

介绍了 Open MatSci ML 工具包，即可扩展、自包容能力强，并使用 Python 框架基于深度学习模型和方法对科学数据进行处理，特别关注材料科学和 OpenCatalyst 数据集，展示了这一工具包为新机器学习研究人员和OpenCatalyst数据集应用高级机器学习工具等科学挑战提供了无缝的解决方案，并为某些材料的行为提供了建模。

Oct, 2022

机器人技术和自动化为解决材料发现等难以处理的多变量科学问题提供了巨大的加速，而巨大的搜索空间可能令人望而生畏。贝叶斯优化（BO）已成为一种流行的高效样本优化引擎，在目标函数/属性没有已知的解析形式的任务中蓬勃发展。本文利用专家人类假设的形式来更快地将贝叶斯搜索定向到化学空间的有前途的区域。我们提出的方法称为HypBO，利用专家人类假设生成改进的样本种子。不太有希望的种子被自动折扣，而有希望的种子被用于增加代理模型数据，从而实现更有信息的抽样。这个过程在一个全局与局部搜索的框架中继续进行。我们在一系列合成函数上验证了我们方法的性能，并在一个真实的化学设计任务上展示了其实用性，其中使用专家假设显著加速了搜索性能。

Aug, 2023

在本文中，我们介绍了一种新的启发式算法，用于在成本函数的 extensive 评估是昂贵、不可访问或甚至是禁止的场景中进行全局优化。该方法结合了机器学习、随机优化和强化学习技术，并依赖于以前采样点的历史信息，选择应该评估成本函数的参数值。与 Replica Exchange Monte Carlo 方法优化相比，该方法所需的成本函数评估次数与模拟退火方法相当，这在高通量计算或高性能计算任务等上下文中特别重要，其中评估要么计算成本高，要么需要很长时间才能执行。该方法与标准的替代优化技术不同，因为它不构建旨在近似或重构目标函数的替代模型。我们通过将其应用于低维优化问题（维度为1、2、4和8），模拟了凝聚态物理中常见的崎岖能量景观上的最小化困难，其中成本函数崎岖不平且充斥着局部最小值。与经典模拟退火相比，LSS 显示出优化过程的有效加速。

Sep, 2023

这篇论文提出了DKIBO，即一种贝叶斯优化算法，用于调整搜索空间中的探索，它能够融合领域知识。通过利用一个额外的确定性代理模型，我们提出了一种简单的方法来融入获取函数中的结构化知识，以丰富高斯过程的近似能力，以此纠正采样的不足，并在材料设计任务中成功地注入领域知识。我们进一步验证了该方法在不同实验设置和消融分析方面的性能。

Nov, 2023

该研究论文介绍了一种物理感知多保真贝叶斯优化方法，通过在优化过程中嵌入领域认知形式，有效地提高了多查询优化问题的计算效率。

Dec, 2023

在计算材料发现领域，通过多样的交互工作流程和基于贝叶斯优化的多层次恒定调整，结合数据、物理和实时人工决策，提高了对多维参数空间的探索效率。

Feb, 2024

基于分解透视的参数高效调优方法（PEFT）解析和优化基础模型，引入两种新的PEFT方法和一个简单而有效的框架，通过实证验证展示了这些方法的理论有效性和实用性能改进，深化了研究者对PEFT和其他技术的理解。

Jul, 2024