自适应取样的条件用于鲁棒设计
本文提出了一个基于概率建模框架和自适应采样算法,将非监督式生成模型与黑盒预测模型相结合解决输入设计问题。通过实验证明,该方法在最大化目标属性方面表现优越,并且适用于更一般的问题版本。
Oct, 2018
在机器学习应用中,我们提出了一种风险规避的训练模型的方法,它通过优化在最难的样本上的表现来提高模型的稳定性和可预测性,关键是利用分布式随机优化算法和结构化行列式点过程进行大规模的学习任务。
Oct, 2019
基于 Gibbs 等人最近的研究工作 [2023],我们提出一种方法来实现对统计风险(损失函数的期望值)的近似条件控制,通过适应测试样本的困难程度,实现了对回归和分割任务的细粒度控制,通过持续监测和调整这些参数,我们可以达到比传统风险控制方法更高的精确度。
Jun, 2024
通过反馈信息理论的视角,研究序列凸优化的内在限制。我们证明了,在优化算法中,为了获得最优解,算法必须能够积累关于目标的充分信息,这对于特定的假设和反馈类型限制了优化速度。我们的技术类似于统计学文献中用于估计程序风险的极小界,但不同之处是优化算法可以以受控方式收集观测数据。特别地,我们证明了优化算法常常遵循收益不高于成本的规律。我们利用这种方法推导了一类主动学习问题的基本下限,进一步实现了优化、实验设计、估计和主动学习中信息和量化信息之间的联系。
Oct, 2010
本文提出一种少样本学习的方法来设计新的功能性蛋白质,该方法包括半监督迁移学习生成离散可行解空间和新型进化蒙特卡罗马尔可夫链采样算法更高效地探索可行解空间。我们在实验中展示了该方法设计出的高适应度基因激活剂有着比现有方法显著的命中率提升,且该方法可以轻松应用在其他蛋白质工程和设计问题中。
May, 2023
本文提出了一种新的最小最大 (PDEs) 方程求解方法,通过使用神经网络模型和深度生成模型来同时优化近似解及数据集,从而减少最终逼近的统计误差,此方法称为对抗性自适应采样 (adversarial adaptive sampling),并是将两个组件融合的第一次的尝试。
May, 2023
本论文提出了一种随机优化方法,该方法通过自适应地控制梯度近似计算中使用的样本量来减少方差,使用内积测试来决定增加样本量,并通过逻辑回归问题的数值实验验证了该算法的有效性。
Oct, 2017
本文研究随机程序的优化问题,其中决策者不能观察到外生不确定性的分布,但可以访问此分布的有限样本。作者提出了一种元优化问题来找到最不保守的预测器和处方器,以及遵守它们的样本外失望约束。利用大偏差理论的工具,作者证明了该元优化问题有唯一解。最佳预测器 - 处方器对可以通过在距离数据的经验分布一定的相对熵距离内的所有分布上求解一个分布的鲁棒优化问题来获得。
Apr, 2017