Jun, 2023

基于 Transformer 注意力机制和时间池化的序列 - 序列模型用于非侵入式载荷监测

PDF
TL;DR本文介绍了一种基于转换器注意机制和时间池化的新颖序列到序列模型，用于智能建筑的非侵入式负载监测 (NILM)，旨在通过使用深度学习方法提高 NILM 的准确性。该方法使用序列到序列 (Seq2Seq) 模型，通过转换器注意机制捕获 NILM 数据的长期依赖性，并使用时间池化来提高模型的准确性，捕获电器的稳态和瞬态行为。该论文在公开数据集上评估了所提出的方法，并将结果与其他最新的 NILM 技术进行了比较，结果表明，该方法在准确性和计算效率方面优于现有的方法。
sequence-to-sequence modeltransformer-based attention mechanismnon-intrusive load monitoringdeep learning-basedtemporal pooling
发现论文，激发创造
  • 基于双向膨胀残差网络的序列到点学习用于非侵入式负载监测

    本篇论文研究针对非侵入式负载监测 (Non Intrusive Load Monitoring) 或能源分解 (Energy Disaggregation) 问题，提出了一种基于双向 (非因果) 扩张卷积的序列至点学习框架，与现有算法进行了比较，实验证明该方法优于其他方法。

    May, 2020

  • 卷积序列到序列非侵入式负荷监测

    提出了一种卷积序列到序列的非侵入式负载监测模型，并成功地将其应用于 REDD 数据集来进行电器分解，并与文献中的卷积序列对点模型进行比较。结果表明，该模型能够为具有不同特征的电器提供令人满意的分解性能。

    Jun, 2018

  • 神经网络序列点学习在非侵入式负载监测中的应用

    本文提出了一种基于卷积神经网络的 “序列到点”（sequence-to-point）学习方法，用于解决能源分解中的非识别性问题，并通过在真实家庭能源数据上的应用证明了其比现有方法具有更高的性能。

    Dec, 2016

  • 利用深度学习架构增强上下文理解的神经序列到序列模型与注意力的应用于抽象文本摘要

    该研究提出了一个新颖的抽象式单文档文本摘要框架，融合了结构、语义和基于神经网络的方法，通过结合机器学习和基于知识的技术实现了一种统一的方法。实验证明了该框架在处理罕见和未登录词方面的显著改进，优于现有的深度学习技术。

    Apr, 2024

  • 基于序列到序列学习的智能家居短期负载预测

    本文提出使用基于 LSTM 的序列 - 序列学习模型来捕捉家用电器负载曲线，并使用 4 个住宅建筑物的真实数据集将其与 VARMA，Dilated One Dimensional 卷积神经网络和 LSTM 模型进行比较，结果表明，在大多数情况下，提出的 LSTM 序列 - 序列模型在预测误差方面优于其他技术。

    Jun, 2021

  • 基于 CNN-BiLSTM 注意机制的低频负荷识别

    本研究提出了一种旨在从低频功率数据中进行精确区分的混合学习方法，它采用卷积神经网络（CNN）和双向长短期记忆网络（BILSTM）的整合，包含一个集成的注意力机制。经过模拟实验使用现有低频 REDD 数据集评估该模型性能，结果表明我们提出的方法在准确性和计算时间方面超过了现有方法。

    Nov, 2023

  • 用于稳健序列分类的时间注意力门控模型

    本文提出了一种称为 Temporal Attention-Gated Model (TAGM) 的模型，将注意力模型和门控循环网络的思想集成在一起，以更好地处理嘈杂或未分段的序列，实现了更好的预测准确性和可解释性，这在口头数字识别，基于文本的情感分析和视觉事件识别等三个不同的任务中得到了证明。

    Dec, 2016

  • 卷积注意力序列到序列神经网络用于端到端自动语音识别

    该论文介绍了一个带有 Luong 注意力机制的序列到序列模型，描述了各种神经网络算法，证明了在 TIMIT 数据集上实现了 15.8% 的音素误差率的有效性。

    Oct, 2017

  • 序列到序列学习作为 Beam-Search 优化

    该研究介绍了一种基于全局序列评分学习的 Sequence-to-Sequence (seq2seq) 模型和波束搜索训练方案，通过避免局部训练的传统偏差问题，统一训练损失和测试时间使用，并保留 seq2seq 的有效训练方法。在单词排序、解析和机器翻译三个不同的序列到序列任务中，该系统优于基于注意力的 seq2seq 系统高度优化的系统和其他基准线。

    Jun, 2016

  • 序列到序列模型的神经摘要文本概括

    本研究从网络结构、训练策略和摘要生成算法三个方面全面综述了不同的 seq2seq 模型用于文本摘要生成的研究，并提出了一个名为 NATS 的开源工具包进行研究，对 CNN / Daily Mail 数据集进行了广泛的实验检验，在 Newsroom 和 Bytecup 数据集上测试了两个模型。

    Dec, 2018