通过进行大规模的 1,500 个超参数与损失地形分析，研究揭示了机器学习模型中超参数和预测损失之间相互作用的关键要素，对多精度和迁移学习方法的成功提供了基础证据，并开发了专门的分析框架来促进对更广泛的 AutoML 任务的基本理解。

Nov, 2023

科学和工程中的大维度实证数据往往具有低秩结构，并可表示为仅由少数特征模式的组合。本研究基于数据训练给出了传感器相互作用的完整景观，采用了统计物理学中的伊辛模型，从而优化了传感器布置并利用了外部选择准则。

Jul, 2023

本研究利用局部最优网络（LON）分析，对候选解的适应度景观的导数进行了探讨以表征和可视化神经结构空间，结果表明 LONs 可能为分析和优化神经结构提供有效的范式。

Jun, 2022

通过采用统计力学的方法，我们研究一个超参数全连接的神经网络分类任务的优化过程，发现该过程与热力学中的温度有类似的波动统计，确定了低误差区域为低维流形，且该维度由决策边界的附近数据点的数量控制，并解释了在高温下主要采样弯曲程度较大的地区的原因。

Apr, 2023

对黑盒优化问题的领域特征进行研究，探索性景观分析（ELA）模型成功地识别了预定义的人造特征，并为解决这些挑战的组合选择器提供了帮助。本研究提出了利用图像识别方法解决这个问题的方法，并在大型数据集上应用基本的人工神经网络模型进行分类，成功实现了机器驱动的特征提取。

Jun, 2022

通过使用图数据挖掘技术，本文提出了利用局部最优网络作为适应度景观的代理，以定性和定量分析探索这些景观中嵌入的潜在拓扑结构信息，从而解决了实际情况中推断相似性的困难。通过在三个经典组合优化问题上进行大规模实证实验，我们获得了支持同类景观之间在邻近维度存在结构相似性的确凿证据，并探究了不同问题类之间的景观关系。

Dec, 2023

本文通过一个统一的现象学模型来解释深度神经网络优化过程中的一些令人惊讶、或者说是违反直觉的特性，其中高维度发挥了关键作用，通过将损失函数的空间看作是一系列高维楔形图的集合，揭示了优化算法收敛过程的内在规律，最终还研究了一些深度网络的集成技术。

Jun, 2019

本文回顾了关于神经网络全局和局部损失函数的广泛研究，重点探讨了在某些假设下宽神经网络可能存在亚优局部最小值的性质以及一些修改方法，并讨论了实际神经网络的可视化和经验探索，最后简要讨论了一些收敛结果及其与全局和局部损失函数相关的关系。

Jul, 2020

本文使用多智能体系统模拟了在某些更有影响力公司有权塑造其他公司生态环境的商业环境中，代表公司如何合作和适应的情况。

Jun, 2022

研究发现，神经网络的能量场通常是平坦的，在极小值点之间存在足够的容量进行结构性变化，且每个极小值点至少有一个消失的 Hessian 特征值。

Mar, 2018