Apr, 2023

多模态神经过程用于不确定性估计

PDF
TL;DR提出了一种新的多模态神经过程模型，称为 Multimodal Neural Processes，该模型通过动态上下文存储、多模态贝叶斯聚合机制和新的注意力机制来进行多模态不确定性估计，实验结果表明其在多模态不确定性估计方面表现优异。
neural processesmultimodal datauncertainty estimationclassificationbayesian aggregation
发现论文，激发创造
  • 变压器神经过程：通过序列建模实现不确定性感知的元学习

    本文提出了一种基于 Transformer 架构的新型神经过程模型（TNPs），用于解决元学习中的不确定性问题，具有先进的表现，适用于元回归、图像完成、上下文多臂赌博机和贝叶斯优化等各种基准问题。

    Jul, 2022

  • 自适应条件分位数神经过程

    本文提出了一种新的神经过程成员 Conditional Quantile Neural Processes（CQNPs），采用量化回归来对复杂的分布进行建模，通过学习估计有信息量的分位数来增强抽样效率和预测准确性，并在实验数据集上与基线算法进行比较，展示了预测性能的显着提高。

    May, 2023

  • 高斯神经过程

    本文对条件神经过程模型中用于训练的最大似然目标进行了严格分析，并提出了神经过程家族的新成员高斯神经过程模型，该模型可以模拟预测相关性，具备平移等变性，提供了通用逼近保证，并显示出良好的性能。

    Jan, 2021

  • NPCL：针对不确定性感知的连续学习的神经过程

    使用神经过程处理连续学习任务，通过任务特定模块和层次潜在变量模型，提供可靠的不确定性估计，并在不同任务间减轻遗忘现象。

    Oct, 2023

  • 马丁格尔后验神经过程

    本文提出了一种名为 Martingale Posterior Neural Process (MPNP) 的模型，将预测分布与神经网络隐含层结合，使用递归的贝叶斯后验方法来降低模型误差。实验表明，MPNP 在各种任务方面的表现要优于基准模型。

    Apr, 2023

  • 神经过程引导机器学习

    提出一种基于引导法的神经过程扩展方法 Boostrapping Neural Process（BNP），可以在不假设特定形式情况下，学习 NPs 中的随机性，且在各类型数据中表现出良好的鲁棒性和稳健性

    Aug, 2020

  • 神经过程中推理结构的利用

    本研究提供一个框架，允许神经过程（NPs）的潜变量被赋予由图形模型定义的丰富先验。将分布假设直接转化为上下文集合的适当聚合策略，并通过消息传递过程进行端到端优化。使用混合和学生 - t 假设证明了该框架的普适性，从而提高了函数建模和测试时的鲁棒性。

    Jun, 2023

  • 双随机变分推断用于具有分层隐变量的神经过程

    本研究介绍了双重随机变分神经过程 (DSVNP) 这种新型的神经过程变量模型，该模型结合了全局和局部潜在变量以用于预测，并在多输出回归和分类不确定性估计中展示了竞争性的预测表现。

    Aug, 2020

  • 消息传递神经过程

    引入 Message Passing Neural Processes (MPNPs)，在模型中显式利用关系结构来弥补 NPs 在处理细胞自动机、标记任意数据等任务中无法利用关系信息所导致的性能限制。模型在现有基准测试和新提出的细胞自动机和 Cora-Branched 任务中表现良好，并在基于密度的 CA 规则集上实现了较强的泛化能力以及在 few-shot learning 设置中获得了显著的提升。

    Sep, 2020

  • 通过神经网络高斯过程提高深度学习输出不确定性估计和泛化能力

    提出一种简单的方法，将神经网络和高斯过程相结合，以更好地估计输出的不确定性和提高模型的泛化性能，并且采用随机变分推断算法和随机梯度下降法进行模型优化。实验结果表明，该方法在两个时空数据集上均表现出优异的性能。

    Jul, 2017