关键词stochastic optimization algorithm
搜索结果 - 10
- 从文本到测试:材料科学仪器的 AI 生成控制软件
通过 ChatGPT-4,我们展示了在材料科学中 Python 控制模块的快速部署,通过迭代改进,我们实现了最小人工干预的有效仪器管理,创造了用户友好的图形用户界面(GUI)以有效地将所有仪器控制与交互式屏幕元素链接,将这款 AI 开发的仪 - 一种新的非平滑非凸有限和优化问题随机重排方法
本文提出并研究了一种新颖的随机优化算法,称为基于正态映射的近端随机重排(norm-PRR)方法,用于非光滑非凸有限和问题。我们建立了 norm-PRR 的迭代复杂度 O (n^{-1/3} T^{-2/3}),其中 n 是组成函数的数量,T - MM一种基于随机优化的训练非线性神经网络的高阶全变差正则化方法
高度表达的参数模型,如深度神经网络,在建模复杂概念方面具有优势,但这种高度非线性模型的训练已知存在高风险的过度拟合问题。为了解决这个问题,本研究考虑第 k 阶总变差(k-TV)正则化,该正则化定义为被训练的参数模型的 k 阶导数的平方积分, - 双层评分匹配用于学习基于能量的潜变量模型
本文提出了一种称为 BiSM 的方法,通过将 Score matching 作为双层优化问题重新定义,引入变分后验概率来优化修改后的 SM 目标函数,并且通过优化变分后验概率来拟合真实后验概率,从而可有效学习具有一般结构的能量基于隐变量的模 - 基于无偏 MLMC 随机梯度的贝叶斯实验设计优化
该论文提出了一种高效的随机优化算法,通过引入随机多层次蒙特卡洛(MLMC)方法,使用无偏的蒙特卡罗估计器求解期望信息增益的梯度,该算法具有较高的性能,可以用于搜索最优的贝叶斯实验设计,适用于简单测试问题和现实药代动力学问题。
- Kalman 梯度下降:随机优化中自适应方差减小
介绍一种使用卡尔曼过滤器进行随机优化的算法,并分析了其在非凸设置下收敛性的理论,并在神经网络和黑盒变分推理等许多机器学习领域上展示了其改进的性能。同时,介绍了一种分布式版本的算法,并将其扩展到 SGD 动量和 RMSProp。
- 基于叠加辅助的霍克斯过程随机优化
该研究考虑了学习多智能体 Hawkes 过程的问题,并提出了一种多样性驱动的叠加策略,该策略可以改善学习结果和收敛性能,进而在真实数据的顺序推荐系统中解决冷启动问题。
- 深度广义典型相关分析
提出了 Deep Generalized Canonical Correlation Analysis (DGCCA) 方法,通过学习非线性变换最大化信息关联,结合非线性(深度)表示学习的灵活性与多个独立来源视图的信息统计力量,通过在两个不 - 随机多维缩放
本文介绍了一个新颖的线性复杂度的随机优化算法,可用于多维缩放(MDS)的随机压力最小化框架,可递增、分布式求解,应用于定位和可视化任务,并在合成和真实数据集上进行了广泛测试。
- ICLR大规模近似核规范相关分析
本论文提出了一种基于随机优化算法的近似核正则化典型相关分析方法,具有在处理大规模数据集时计算效率高的特点,该方法应用于语音数据集处理中,包含 $1.4$ 百万的训练样本,以及维度 $M=100000$ 的随机特征空间.