BlackJAX: JAX 中的可组合贝叶斯推理
CosmoPower-JAX 是一种用于 - cosmological inferece - 的 JAX 实现。通过构建 - cosmological power spectra - 的神经仿真器,使用 JAX 的自动分化、批量评估和及时编译功能,并在 GPU 上运行推断管道,使用先进的基于梯度的采样技术加速参数估计数个数量级。
May, 2023
SynJax 提供了对结构化分布推理算法的高效向量化实现,包括对齐、标记、分段、句法树和生成树,通过使用 SynJax,我们能构建大规模可微分的模型,能明确地对数据中的结构进行建模。
Aug, 2023
本文介绍了 NumPyro 库,它是 Pyro 概率编程语言的一个轻量级后端,具有相同的建模接口、语言原语和效果处理抽象。效果处理程序允许将 Pyro 的建模 API 扩展到 NumPyro,本文演示了使用程序变换与 Pyro 的效果处理程序组合的强大功能。所提供的迭代式 No-U-Turn 采样器(NUTS)的 NumPyro 实现,具有比现有替代方案更快的速度,适用于小型和大型数据集。
Dec, 2019
JaxDecompiler 是一个将任何 JAX 函数转换为可编辑的 Python 代码的工具,特别适用于编辑由梯度函数生成的 JAX 函数,并在逆向工程、理解、定制化和软件互通方面简化了过程。它在深度学习和梯度驱动软件方面具有实际应用,我们通过演示证明了反编译代码的速度性能与原始代码相似。
Mar, 2024
通过应用随机变分推断方法,提出一种结构化高斯近似后验,用于近似后验更普遍、非线性的潜变量生成模型,且相较于特定非共轭模型的定制化变分方法具有更好的表现;该方法旨在用于潜在动态结构模型的黑盒近似推断。
Nov, 2015
通过 GPU 加速计算及发布基于 JAX 的 evosax 库支持的 30 种演化式算法及硬件优化,本文探究了深度学习和演化式优化间的结合,以进一步推动黑箱优化算法的发展。
Dec, 2022
JAXbind 旨在通过提供易于使用的 Python 接口,将用其他编程语言实现的自定义函数绑定到 JAX,从而大大减少了绑定自定义函数到 JAX 所需的工作量。
Mar, 2024
介绍了 Equinox,它是一种小型神经网络库,采用类似 PyTorch 的基于类的方法,同时使用 JAX-like 的函数编程,它通过 PyTree 和函数变换解决了 OO/functional 的差异而不需要引入新的程序抽象。
Oct, 2021
我们发布了一个新的用于 PyTorch 的贝叶斯神经网络库,用于大规模深度网络。该库实现了主要的近似贝叶斯推断算法:变分推断、MC-dropout、随机梯度 MCMC 和拉普拉斯近似。与其他现有的贝叶斯神经网络库相比,我们的库具有以下主要区别:1)我们的库可以处理包括视觉变换器(ViTs)在内的非常大规模的深度网络。2)对于用户而言,我们几乎不需要修改任何代码(例如,基础网络定义代码完全不需要修改)。3)我们的库还允许预训练模型权重作为先验均值,这对于使用基于 ViTs 等大规模基础模型进行贝叶斯推断非常有用,这些模型仅仅使用下游数据难以从头开始进行优化。我们的代码公开可用。
Sep, 2023