- 扩散模型的梯度引导:优化视角
通过梯度引导实现扩散模型的细调,以用户定义的优化目标适应特定任务需求,包括理论研究、梯度引导的采样过程和梯度引导的迭代扩散,以及潜在结构的保留和全局最优解的收敛速率。
- 负二项随机伽玛马尔科夫过程用于异质超离散计数时间序列
提出了一种负二项式随机化的伽马马尔科夫过程来建模计数数列的转换结构和爆发性动态,从而改善了动力学系统的预测性能和推理算法的快速收敛,同时估计了基于因子结构和图结构的转换动态以获得更可解释的潜在结构,比相关模型更好地填补了缺失数据和预测未来观 - 深度 de Finetti:从大型语言模型中恢复主题分布
使用大型语言模型,我们发现它们能够生成结构完整且连贯的长文本,表明虽然这些模型是基于下一个词的预测进行训练的,但它们必须表示文档的潜在结构。本文研究了潜在主题结构作为文档结构的互补方面,通过将大型语言模型优化与隐性贝叶斯推断相连接来验证我们 - E3 TTS:简易端到端扩散基于文本到语音技术
我们提出了一种简单高效的端到端扩散式文本转语音模型,通过扩散过程直接从纯文本生成音频波形。该模型无需中间表示,能够支持给定音频的灵活潜在结构,从而实现轻松适应零样本任务。实验证明,该模型能够生成高保真音频,接近最先进的神经网络语音合成系统的 - 学习结构组件:面向模块化可解释的多元时间序列预测
本文提出了一种模块化和可解释的预测框架 SCNN,可以分离时间序列数据中的结构和异构组成部分,并分别预测其演变。在三个实际数据集上的实验证明了 SCNN 可以胜过现有模型并具有更好的可追溯性和可预测性。
- 通过对译码器网络进行反 Lipschitz 限制来控制后验坍塌
本文针对变分自编码器中的后验崩溃问题,提出了一种基于反 Lipschitz 神经网络的方法,并在多个数值实验中证明了其有效性。
- EMNLP朝向高效的对话预训练:具有可转移和可解释的潜在结构
本文提出了一种轻量级且透明的基于潜在结构的对话生成模型,通过解析离散潜变量来实现可解释性,实证表明该模型相对于四种强基准模型有更好的对话质量和更快的运行速度。
- Graph-in-Graph (GiG): 学习非欧几里德域的解释性潜在图,用于生物和医疗应用
本文通过提出一种名为 GiG 的神经网络结构,并利用输入数据样本及其潜在关系的图表示,用于蛋白质分类和大脑成像应用。利用学习过程中 end-to-end 的参数化模型及潜在的连接结构,实现了在图样本内部以及跨样本的消息传递,并增加了度分布损 - AAAI学习参数化的任务结构以实现对未知实体的泛化
通过一阶逻辑和子任务实体来建模子任务依赖关系,学习零样本实体属性,并且比以前的方法更有效地学习层次和组合任务的潜在结构,示范 PSGI 可以泛化模拟在适应期间未见到过的子任务结构。
- SLAPS:自监督改善图神经网络结构学习
本文提出了一种名为自监督的同时学习邻接矩阵和 GNN 参数的方法,可以扩展到数十万个节点的大型图表,并在基准测试中优于其他模型。
- CVPR在线高秩矩阵补全
本研究提出一种基于核技巧的高秩矩阵补全模型,结合批处理和在线方法来拟合模型和外推完整新数据,实验结果表明该方法在合成数据和动作捕捉数据的性能表现良好。
- 高阶节点依赖性可扩展的深度生成关系模型
提出了一种基于概率框架的深度生成关系模型,通过高阶邻域结构信息建立了能够处理非线性映射的深层网络架构,并使用了 Dirichlet 随机变量结构的新型数据增强方法,使得在实际数据集中的链接预测表现得到了显著的提高。
- 从词嵌入解释知识图谱关系表达
研究利用词嵌入的理论,将知识图谱关系分为三种类型,并为每种类型导出其表示法的明确要求,以了解知识图谱数据的潜在结构如何被不同表达方法所捕捉。
- Morpho-MNIST: 表示学习的定量评估和诊断
本研究提出了一个名为 Morpho-MNIST 的框架来解决评估无监督和有监督机器学习的性能问题,这个框架可以用来评估特定变化因素在数据中的表现,并提供了可量化的扰动,以评估在挑战性任务上的性能。
- EMNLP借助稀疏潜在结构实现动态计算图
本篇研究介绍了一种使用 SparseMAP inference 进行训练的方式,可以在维持可区分性的同时,实现从全局潜在结构建立不受限制的动态计算图,从而助力于深度神经网络建模的训练。
- 深度功能字典:从函数学习 3D 模型上的一致语义结构
本文介绍了一种基于神经网络的方法,可以在没有任何匹配信息的情况下,通过在不同形状上联合分析点云表示的几何和语义函数,发现共同的潜在结构,并生成潜在基函数字典,以反映形状间的共享语义结构。
- 超球面变分自编码器
本研究提出了利用 von Mises-Fisher 分布替代 Gaussian 分布模型的 VAE,能更好地捕捉数据中的超球面潜在结构,且在低维数据类型中优于传统 VAE。
- 关于图信号处理中稀疏性、幂律和聚类性质的研究
本文研究了基于可交换点过程的图形类的特性,提供了边数、节点数和度分布的渐近表达式,并确定了四个区域:(i)密集区域,(ii)几乎稠密区域,(iii)具有幂律行为的稀疏区域和(iv)几乎极度稀疏区域。作者表明,在温和的假设下,全局和局部聚类系 - NIPSInfoGAIL:来自视觉示范的可解释性模仿学习
本文提出了一种基于对抗生成模型的模仿学习算法,能够通过无监督学习方法推断出专家示范中隐藏的潜在结构,并可以学习到复杂行为数据可解释且有意义的表示方式,包括图像示范。在驾驶领域中,我们展示了通过人类示范学习的模型能够准确地复现多种行为并能使用 - 批处理高维贝叶斯优化:通过结构核学习实现
本文提出了一种处理高维黑盒函数优化挑战的方法 —— 通过 (1) 推断函数的潜在加法结构以进行更加高效和有效的贝叶斯优化,(2) 并行进行多次评估以减少方法所需的迭代次数。通过 Gibbs 抽样学习潜在结构,并使用定向点过程构建批量查询。实