- 利用蒙特卡罗方法实现混合效应神经网络对多样化,集群数据的支持
MC-GMENN 是一种新颖的方法,使用蒙特卡罗方法训练广义混合效应神经网络,证明在泛化性能、时间复杂度和簇间差异量化方面优于现有的混合效应深度学习模型,适用于包括多类别分类任务在内的各种数据集,并提供了一种解释聚类模式效果的原则方法。
- 随机梯度分段确定性蒙特卡罗采样器
通过近似模拟带有子抽样的分段确定性马尔可夫过程(PDMPs)的方法,可以从后验分布中进行可扩展的抽样。这种方法的效率类似于随机梯度 Langevin 动力学,但更为稳健。
- 大型语言模型评估顺序决策能力的 UNO 竞技场
大型语言模型在序列决策方面的能力得到展示。为了评估大型语言模型的序列决策能力,本文提出了基于 UNO 扑克牌游戏的 UNO Arena,并通过基于蒙特卡洛方法的新颖指标动态评估了大型语言模型的序列决策能力。进一步提出了 TUTRI play - 可编程变分推理的概率编程
我们提出了一种基于组合程序转换的方法,用于支持概率编程语言中的变分推断,该方法能够灵活地处理多个关键问题,包括自动微分、密度累积、跟踪和无偏梯度估计策略。此外,相比于现有的支持变分推断的概率编程语言,我们的设计在用户定义的目标、梯度估计策略 - ELBO 之外:大规模变分方法采样评估
蒙特卡洛方法、变分推断及其组合在从难以处理的概率分布中取样方面发挥着重要作用。然而,现有研究缺乏统一的评估框架,依赖不同的性能度量和有限的方法比较,给进展的评估和从业者的决策带来了困难。为了应对这些挑战,我们的工作引入了一个基准,使用标准化 - DDGS-CT: 实现真实体绘制的方向分离高斯喷洒
数字重建射线照片(DRRs)在术前应用中得到广泛使用,但由于计算瓶颈在术中应用受到限制,特别是对于准确但计算密集型的基于蒙特卡罗方法。本文提出了一种新方法,将真实的受物理启发的 X 射线模拟与使用三维高斯平铺(3DGS)进行高效、可微分的 - 逻辑变分贝叶斯重新讨论
本文提出了一种新的边界方法用于估计软加函数期望,并展示了它如何应用于变分逻辑回归和高斯过程分类。与其他边界方法不同,我们的方法不需要扩展变分族或引入额外的参数来确保边界的紧致性。实验证明,这个边界方法比现有方法更紧致,而且计算速度显著更快, - 深度学习格点规范理论
使用神经网络量子态精确计算二维时空中 Z_N 格点规范理论的基态,并通过转移学习研究其拓扑相和限制相变。在 Z_2 和 Z_3 情况下,分别发现了连续相变和弱一级相变,并计算了临界指数和临界耦合,表明神经网络量子态在格点规范理论研究中有很大 - 强化学习反应堆优化基准
在核反应堆优化中,引入了适用于强化学习的 OpenNeoMC 框架的新型基准问题,通过蒙特卡洛方法和机器学习技术的结合,提出了在具有不同物理区域的单元反应堆中优化中子通量的挑战,通过演化算法和神经进化算法的模拟,证明了强化学习在复杂优化中的 - 当离散优化规模与神经网络一样大时该如何处理?
本研究比较了使用纯粹外推梯度信息和比较有效解的两种方法,以解决离散优化问题在机器学习应用中的使用,首先概述了这两种方法及其缺点,然后通过实验证明了它们的性能差异。
- 通过归一化流进行稀有事件概率学习
NOFIS 使用正态化流辅助重要性抽样,通过学习一系列建议分布并结合重要性抽样,精确地估计罕见事件的概率,通过定性和定量实验证实 NOFIS 方法的优越性。
- 混合物和神经评论家:关于细度分布的点互信息特征
本文研究相互信息、逐点相互信息轮廓、多元正态分布、蒙特卡洛方法,该研究还使用精细分布来研究现有相互信息估计器的局限性、变分估计器中使用的神经评论家的行为以及实验异常值对相互信息估计的影响,并展示了如何使用精细分布来获得基于模型的贝叶斯估计的 - 证明退火对估计归一化常数的益处:重要抽样、噪音对比估计及其它
最近的研究在模拟退火的思想基础上发展了几种蒙特卡洛方法,用于估计归一化常数(分区函数)。本文通过评估多个设计选择对于渐近估计误差的影响,提出了一种两步估计器以高效地近似最优路径。
- 基于一元光子计算芯片和生成对抗学习的高效选项定价
本论文提出了一种光子芯片,利用一元法计算欧式期权定价,并结合量子振幅估计算法,与经典蒙特卡罗方法相比具有二次加速度。该芯片由三个模块组成:加载资产价格分布、计算预期收益和执行量子振幅估计算法。在资产价格分布模块中,嵌入了生成对抗网络以高效学 - 高斯过程网络的贝叶斯方法
本文研究高斯过程网络 (GPNs) 的贝叶斯结构学习问题,提出基于蒙特卡罗和马尔可夫链蒙特卡罗方法的网络结构后验分布抽样算法,并在模拟实验中证明该方法在恢复网络图形结构和提供准确后验分布方面优于现有算法。
- $K$ 最临近重采样在随机控制中的非策略评估
该论文提出了一种新的 K 最近邻重采样程序,用于在具有连续状态 - 动作空间和系统固有随机性的环境中,通过模拟轨迹来解决反事实估计问题,该算法不需要优化,可以通过基于树的最近邻搜索和并行化实现,特别适用于随机控制环境。
- 一种通用的基于物理知识的学习框架,用于风险概率评估
本文提出了一种有效的方法,将蒙特卡洛方法和物理启发式神经网络相结合,利用偏微分方程来评估长期风险概率及其梯度,从而提高样本效率并适应更改的系统参数。
- 基于梯度的 Wang-Landau 算法:神经网络在输入空间输出分布的新采样器
本文提出了梯度基于的 Wang-Landau 采样算法,以更高效地探索神经网络的输出分布于输入空间之间的关系,实验结果在二元图像分类任务中,CNN 和 ResNet 把大多数不可识别的图片映射至负 logit 值。
- 从蒙特卡洛到神经网络的边界值问题近似
本文研究用概率方法和神经网络逼近求解 Poisson 方程,并提出基于球面游走算法轻微改变的蒙特卡洛数值近似方法,其维数无需指定且具有高效性和多项式复杂度。同时,本文证明使用该数值近似方法得出的随机深度神经网络可在多项式时间内对 Poiss - ICML基于鲁棒的随机微分方程变分公式的深度学习求解线性偏微分方程
该研究探讨了利用 Monte Carlo 方法和深度学习解决高维偏微分方程(PDE)的有效算法,并提供了一些新方法,这些方法在利用梯度优化方法最小化相应损失时具有低差异性,并提高了所提到的现有深度学习方法的性能。