- 学习字符串序列
采用通用相似度度量(USM)作为 K - 最近邻(K-NN)学习器中的替代距离度量,有效地识别可变长度序列数据,并与常用的字符串 - 词向量方法进行对比实验证明,USM 方法较字符串 - 词向量方法在垃圾邮件过滤和蛋白质亚细胞定位等领域的预 - 使用指针增强神经记忆增强顺序模型中的长度外推
我们提出了 Pointer-Augmented Neural Memory (PANM),以帮助神经网络理解和应用符号处理于新的、更长的数据序列。PANM 包含一个外部神经记忆,使用新颖的物理地址和指针操作技术,模拟人类和计算机的符号处理能 - 朝着透明的序列模型:基于模型的树马尔可夫模型
通过使用 MOB-HSMM 模型,结合 LSTM 学习序列模式和 HSMM 模型,我们解决了黑箱机器学习模型应用于时序数据的可解释性问题,并成功检测到了高死亡风险事件和与重症监护病房中死亡风险相关的隐藏模式。
- 语音表示学习:使用单视角、多视角和多任务方法进行双向编码器学习
该论文研究了使用表示学习改进时间序列或空间序列数据的下游预测任务,通过使用学习到的表示。它主要涵盖了表示学习的多个设置,包括有监督学习、无监督学习、半监督学习和多视角学习,并探索了多种方法,特别关注于语音数据。
- ProgSG:电子设计自动化程序跨模态表示学习
该论文提出了一种名为 ProgSG 的方法,结合源代码序列模态和图模态,实现深入和精细的互动,以促进领域特定加速器(DSAs)的自动化设计并解决现有高级综合工具需要进行微体系结构决策的问题。
- ICML基于贝叶斯优化的离散序列数据黑盒对抗攻击的高效查询和可扩展性
本文提出了一种使用贝叶斯优化方法对黑盒序列数据模型进行查询有效的对抗样本攻击,有效地提高了攻击成功率并且减小了查询次数和修改率。
- 属性序列上的深度学习
研究了属性序列上的深度学习模型,提出的解决方案显著提高了属性序列上每种任务的性能。
- 属性序列嵌入
本文提出了一种基于深度多模态学习框架 NAS 的归纳属性序列嵌入方法,用于在不同的挖掘任务中学习属性序列的表达,该方法在多个真实数据集上进行了验证。
- ICML广义 Earley 解析器:连接符号语法和序列数据以进行未来预测
本研究旨在解决对未来序列数据的预测问题,提出将 Earley 解析器推广至未分段无标签序列数据,利用语言模型对最优的分段与标签进行预测,取得了显著的人类活动预测性能优于传统方法。
- 自编码器无监督地学习序列表示
提出了通过整合两种经典的序列重构机制,结合时间戳的方法,使用自编码器模型学习序列数据的固定长度向量表征,旨在提高对序列数据的高质量感知,以便在半监督学习中应用。
- ICMLViterbi 序列标记的低秩隐藏状态嵌入
本文提出了一种通过学习嵌入式的潜在输出结构来解决长期标签依赖性的方法,并在 CoNLL 命名实体识别任务中证明了准确性和可解释性。
- 适用于循环神经网络的简化最小门控单元变体
通过引入三种 MGU 模型的变种设计,本文在简化 MGU 设计的基础上降低了遗忘门动态方程的参数数量,用更少的参数实现跟 MGU 相似的准确度,在序列数据的测试上表现出优秀的性能,其中 MGU2 模型甚至比 MGU 在数据集上表现更好,能替 - 适用于递归神经网络的最小门控单元
该研究提出了一种适用于循环神经网络的门单元,名为 Minimal Gated Unit(MGU),其结构简单,可与 GRU 相媲美,但参数更少且训练更快,适用于各种序列数据应用。
- 适应性计算时间的递归神经网络
本文介绍了一种自适应计算时间(ACT)的算法,它使得循环神经网络能够在接收输入和输出之间学习要执行多少计算步骤。ACT 要求最少的网络架构变化,并且是确定性和可微分的,在不会增加参数梯度的噪声的情况下表现良好。实验结果证明,ACT 在决定二