- TorchDEQ:深度均衡模型库
这篇研究论文介绍了一种称为 Deep Equilibrium (DEQ) 模型的隐式模型新类别,并提出了 TorchDEQ 库,该库能够在多个领域上定义、训练和推断使用 DEQ 模型,通过结合最佳实践,显著提高了 DEQ 模型在十个数据集上 - 基于策略的贝叶斯实验设计用于不可微分的隐式模型
介绍了一种基于强化学习的最优实验设计方法,通过改进基于策略的贝叶斯最优实验设计方法,将其重构为一个基于马尔可夫决策过程的奖励函数计算模型,使用无损信息下限来学习策略,提供了快速的离线实验设计方案,适用于非可微隐含模型的模拟实验优化设计。
- 关于隐式模型的训练
该论文探讨了训练无限层次的隐式模型的方法,提出了一种新的梯度估计方法 —— 幻影梯度,该方法通过对精确梯度的计算进行优化,可以加速模型训练,并提高模型性能。
- 隐式深度自适应设计:基于策略的实验设计,无需似然函数
提出了一种利用隐式模型进行的实时自适应实验的新方法 - iDAD,通过学习设计策略网络来摊销贝叶斯最优实验设计的成本,并可在实验时快速部署,可以在毫秒内做出设计决策。
- 深度隐式曲面点预测网络
本文提出了一种新的隐式表示方法,称为最接近的表面点(CSP)表示,用于表示具有任何拓扑结构的开放或封闭形状并计算本地几何属性,可以实现高保真度和有效实现外围算法,如球追踪来呈现三维表面和创建显式基于网格的表示,并在 ShapeNet 数据集 - 通过互信息的顺序贝叶斯实验设计隐式模型
我们提出了一种新的序列设计框架,利用实现样本采样的隐式模型分类中的相互信息来寻找最佳实验设计,通过 Bayesian 优化来帮助我们优化 MI 效用,我们发现我们的框架对于各种测试的隐式模型非常有效,在几次迭代后可以产生准确的参数估计。
- 隐式模型的高效贝叶斯实验设计
本文提出了一个新的实验设计框架,用于解决隐式模型中的优化资源分配问题,采用了先前不可行的参数和数据之间的互信息作为效用函数,并使用基于贝叶斯优化的方法解决最优设计问题。
- 隐式模型中的语义插值
本研究针对隐式模型中的编码向量进行变换插值时,提出需要考虑编码向量的分布假设和插值路径的几何关系;在此基础上,通过改变编码先验分布,将更多概率分布集中在原点附近,得到保证线性插值路径穿过高密度区域的方案,实现生成图像的质量和插值路径的意义更 - ICLR隐式模型的梯度估计器
该论文提出了斯坦梯度估计器,通过直接估计隐式定义分布的评分函数,消除了许多学习隐式模型的近似。该方法的有效性通过元学习和熵正则化 GAN 的实例得到了证明。
- 隐含地将形态信息融入到词向量中
本文提出了三种新模型,通过隐性使用形态信息增强单词嵌入,实验结果表明隐性模型优于传统显性模型,表现优于所有现有模型,并能在单词嵌入训练过程中补充语义信息。