- CVPRS3VAE:自监督序列 VAE 进行特征解缕和数据生成
该论文提出了一种顺序变分自编码器,利用自监督方法,通过利用输入数据自身或外部模型提供的监督信号设计辅助任务,轻松将输入序列表示分解为静态因素和动态因素,并在视频和音频等领域的综合实验中证明其在表示分解和序列数据生成方面的有效性。
- ACL通过特征匹配学习隐式文本生成
这篇论文介绍了一种针对序列数据的 GFMN 算法,具有稳定性和较好的效果,适用于无条件文本生成、条件文本生成和无监督文本样式转换。
- KDD借助逆强化学习实现序列异常检测
该研究提出了一种基于逆强化学习的端到端框架来实现序列异常检测,使用神经网络表示奖励函数,并采用贝叶斯方法来构建可靠的异常检测方法。
- ICML顺序协作贝叶斯推理
研究了合作推理的基础理论,提出了一种新方法 SCBI 来分析一致性,收敛率和稳定性,并表明合作对于特定情况不仅是可能的,而且从理论上讲在一般情况下也是可行的,以及探讨了人类之间和人机之间合作的意义。
- AAAI对马尔可夫逻辑网络在音乐信号分析中的适用性的关键分析
本文分析了一些将 MLNs 用于音乐分析的提案,比较了它们与用(动态)贝叶斯网络表述音乐依赖关系的实际劣势,并认为 MLNs 不太适合于所提出的音乐应用,尤其是在涉及连续观测序列数据时。最后还表明了这些提案背后的思想可以在(动态)贝叶斯网络 - 反馈循环自编码器
提出了一种新的递归自编码器结构 —— 反馈递归自编码器(FRAE),用于在线压缩带有时态依赖性的顺序数据,尤其是语音谱图压缩,结合神经声码器,实现低固定比特率下的高质量语音波形,进一步使用学习到的潜在空间先验和熵编码器,可以达到更低的可变比 - 递归注意力神经过程用于序列数据
本文提出了一种将注意力神经过程(ANP)嵌入循环神经网络 (RNN) 的新模型 ——RANP,从而有效地捕获序列数据的时间顺序和重复结构,与 LSTMs 和 NPs 进行比较,该模型在一维回归玩具实例以及自主驾驶应用中表现出色。
- 变分时间抽象
本文介绍了一种用于序列数据学习和推理的变分方法,即基于变分时间抽象(VTA)的分层循环状态空间模型,该模型能够推断潜在的时间结构并因此进行随机状态转换分层;同时本文还提出了将该模型应用于增强想象学习中的跳跃想象能力实现,并且实验验证表明本文 - 深度平衡模型
本文介绍了一种新的应用于序列数据建模的方法 —— 深度平衡模型,并比较其在大规模语言模型任务上的性能,该方法可通过求解根来直接获取固定点,训练和预测所需的内存只需常数级别,大大减少了存储消耗。
- ICCV目标驱动的序列数据抽象
采用一种基于强化学习实现的框架,实现了自动对序列数据进行目标驱动的数据抽象。该框架在不受数据输入顺序限制的同时,还可以定义不同的目标,以便以最好的方式保留输入数据的不同方面,能够在涉及手稿、视频和文本数据的情况下实现最佳抽象结果。
- ICML使用带有标记协方差的高斯过程从顺序数据中进行贝叶斯学习
使用贝叶斯方法和高斯过程,结合符号核、稀疏变分方法等技术对序列数据进行学习,可以使得不同长度的序列可比较且利用奇异分析的强大理论结果;我们还介绍了一种使用引导张量处理未能有利的序列结构方法,将该方法和 LSTMs、GRUs 等结合起来,以建 - IJCAI高斯过程协方差结构中的确认性贝叶斯在线变点检测
文章提出了一种用于检测局部平滑时间序列的协方差结构变化的统计假设检验方法,称为 Confirmatory BOCPD (CBOCPD),该方法通过确认统计显著性的变化和非变化来改善 Bayesian Online Change Point - Transformer 语言模型的动态评估
这篇研究使用 Transformers 和动态评估两种方法来提高语言建模,在多个数据集上的实验表明,使用动态评估提高了模型预测准确率。
- 长短参半:用序列事件摘要串行情节
本文介绍了一种针对序列数据的模式集挖掘方法,使用 MDL 原则编码序列数据,通过权重编码序列中的序列事件集以确定模式质量,通过两种算法进行模式挖掘,证明能够有效发现具有信息量的小模式集。
- 使用三阶张量积学习推理
本文采用递归神经网络与张量积表示相结合的方法,学习顺序数据的组合表示并在多个简单的自然语言推理任务中取得显著优于最新先进模型的表现,同时证明该方法的泛化性能优于现有最新先进技术。
- ICML随机 WaveNet: 序列数据生成潜变量模型
本文提出了一种新的序列数据模型架构,称为随机 WaveNet,其中随机潜在变量被注入到 WaveNet 结构中,实现了强大的分布建模能力和并行训练的优势,同时在自然语音生成和高质量人类手写样本生成方面取得了最先进的表现。
- ACLLSTMs Exploit Linguistic Attributes of Data
研究如何通过自然语言数据训练 LSTM 模型,并发现这种数据能够帮助 LSTM 模型更好地记忆并回忆输入的令牌,同时 LSTM 也会通过某些神经元来计算输入的时间步数。
- 双曲神经网络
通过将 M"obius gyrovector 空间的形式主义与 Poincarе模型的 Riemannian 几何相结合,我们提出了重要深度学习工具的超几何版本:多项式逻辑回归、前馈和循环神经网络。这样可以在超几何空间中嵌入序列数据并进行分 - AAAI多尺度人脸修复及时序门控集成网络
本研究提出了一个多尺度人脸图像修复模型 SGEN,将集成学习原理应用于其架构设计,采用顺序门控单元对不同尺度的基础编码器和解码器进行顺序信息提取和综合选择,并通过对抗性训练取得了比其他模型更具视觉效果的修复结果。
- ICML一种用于学习音乐长期结构的分层潜变量模型
本文介绍了一种新的变分自编码器模型 MusicVAE,利用层次化解码器结构用于序列数据建模,解决了长程序列结构状态建模的问题,并实现了更好的采样、插值和重构表现。