- 变压器神经过程:通过序列建模实现不确定性感知的元学习
本文提出了一种基于 Transformer 架构的新型神经过程模型(TNPs),用于解决元学习中的不确定性问题,具有先进的表现,适用于元回归、图像完成、上下文多臂赌博机和贝叶斯优化等各种基准问题。
- ICMLNP-Match:当神经过程遇上半监督学习
本文提出了一种名为 NP-Match 的新方法,将神经过程(NPs)调整为半监督图像分类任务,与基于蒙特卡罗 dropout(MC)的不确定性的 SSL 方法相比,NP-Match 在处理可靠的伪标签时减少了计算开销,在四个公共数据集上超过 - 使用人工神经网络模拟视觉对象识别中的 Eureka 效应反应时间
该研究通过基于人类视神经处理图像信息的神经元模型,模拟了人类的发现效应 (Eureka effect)。
- ICLR带有随机注意力机制的神经过程:更多关注上下文数据集
该研究提出了一种基于随机注意力机制的神经过程方法来捕捉适当的上下文信息,从信息论的角度证明了该方法鼓励上下文嵌入与目标数据集不同,可以实现上下文嵌入和目标数据集中的特征独立处理,在各种领域的实验中,该方法明显优于传统的神经过程方法。
- 自监督学习中的对比神经过程
本文提出了一种新的自监督学习框架,将对比学习与神经过程相结合,用于时间序列预测,实现数据的增强和避免手动设计数据增广,利用我们的方法训练的 ResNet 和线性分类器在工业、医疗和音频数据集上表现良好,精度提高 10%以上。此外,我们证明了 - CVPR情感过程:用于情感和面部表情识别的时间上下文随机建模
该研究提出了一种基于神经过程的方法,使用全局潜在变量模型的概率性语境表示与任务特定预测结合,智能地选择时间上下文,并在四个数据库上进行验证,在情感识别等方面取得了比强基线和现有方法更为一致的进步。
- ICLR神经 ODE 过程
提出了一种新的随机过程 —— 神经 ODE 过程(Neural ODE Processes),用于捕捉低维度和高维度的时间序列系统动力学,并且相较于现有的神经过程模型,该模型具有适应实时应用的能力和更好的不确定性估计。
- 高斯神经过程
本文对条件神经过程模型中用于训练的最大似然目标进行了严格分析,并提出了神经过程家族的新成员高斯神经过程模型,该模型可以模拟预测相关性,具备平移等变性,提供了通用逼近保证,并显示出良好的性能。
- 消息传递神经过程
引入 Message Passing Neural Processes (MPNPs),在模型中显式利用关系结构来弥补 NPs 在处理细胞自动机、标记任意数据等任务中无法利用关系信息所导致的性能限制。模型在现有基准测试和新提出的细胞自动机和 - 双随机变分推断用于具有分层隐变量的神经过程
本研究介绍了双重随机变分神经过程 (DSVNP) 这种新型的神经过程变量模型,该模型结合了全局和局部潜在变量以用于预测,并在多输出回归和分类不确定性估计中展示了竞争性的预测表现。
- 神经过程引导机器学习
提出一种基于引导法的神经过程扩展方法 Boostrapping Neural Process(BNP),可以在不假设特定形式情况下,学习 NPs 中的随机性,且在各类型数据中表现出良好的鲁棒性和稳健性
- 递归注意力神经过程用于序列数据
本文提出了一种将注意力神经过程(ANP)嵌入循环神经网络 (RNN) 的新模型 ——RANP,从而有效地捕获序列数据的时间顺序和重复结构,与 LSTMs 和 NPs 进行比较,该模型在一维回归玩具实例以及自主驾驶应用中表现出色。
- 序贯神经过程
本文提出了一种 Sequential Neural Processes (SNP) 的方法,它通过引入一个时间状态转移模型来扩展 Neural Processes (NP) 的建模能力,以处理动态随机过程。作者还使用 Temporal Ge - 注意力神经过程
该研究提出了一种带有注意力机制的神经流程方法,以解决神经流程的欠拟合问题,从而更准确地预测给定上下文情况下的输出条件分布。
- 深度概率模型的验证
该文章提出了一种验证深度概率模型的新框架,在模型输出过程中采样潜在变量并考虑其所需的条件输入,以高概率满足线性约束,并能够有效地验证功能空间中感兴趣的属性(单调性、凸性)
- 神经过程
本文介绍了神经过程(NP)这一类神经网络模型,它拥有高效的计算能力、灵活的概率模型,可以适应新的数据,并能够估计其预测的不确定性。同时,神经过程也能像高斯过程一样对函数进行概率建模,具有延迟更新的能力。我们探讨了神经过程在回归和优化等任务中