一种针对高度不平衡工业数据的成本敏感的 Transformer 模型
提出一种基于 C-VSNs 的集成模型,用于预测比利时的高不平衡度,该模型在连续排名概率得分上优于现有技术 23.4%,并且在整体连续排名概率得分上有 6.5% 的改进。
Apr, 2024
本文提出了一种自适应的代价敏感学习策略,用于修改深度学习模型,以解决不平衡时间序列分类任务中的问题,并证明了该策略能够有效地改进卷积神经网络和残差网络的分类性能,从而应用于不平衡时间序列分类问题。
Jan, 2018
本研究提出了一种使用 PCA 增强的新型 Transformer 预测框架,以降低冗余信息、提高预测准确性并优化运行时间效率。通过与其他五个先进模型和四个真实世界数据集的评估结果显示,该框架能够在所有模型和数据集上最小化预测误差,并显著降低运行时间。其中 PCA+Crossformer 模型平均减少均方误差(MSE)33.3% 并缩短运行时间 49.2%。在电力数据集上,该框架降低 MSE 14.3% 和运行时间 76.6%;在交通数据集上,降低 MSE 4.8% 和运行时间 86.9%。本研究旨在推进各种先进模型,增强基于 Transformer 的时间序列预测能力,以适用于复杂数据。
Dec, 2023
现有的数据驱动电力系统短期电压稳定性评估 (STVSA) 方法假定输入数据的类别平衡。然而,在实际应用中,干扰后出现短期电压不稳定的情况很少,导致严重的类别不平衡问题和分类器性能下降。为解决这一挑战,本论文提出了一种基于 Transformer 的 STVSA 方法。通过利用基本的 Transformer 结构,提出了一种稳定性评估 Transformer (StaaT) 作为分类模型,反映系统运行状态和稳定性结果之间的相关性。为应对不平衡数据集的负面影响,本研究采用带有梯度惩罚的条件 Wasserstein 生成对抗网络 (CWGAN-GP) 用于合成数据生成,帮助创建一个平衡且代表性的训练集用于分类器。此外,还实施了半监督聚类学习来提高聚类质量,解决了短期电压稳定性缺乏统一量化标准的问题。在 IEEE 39 节点测试系统上进行的数值测试广泛证明了所提出方法在类别不平衡达到 100:1 和噪声环境下的鲁棒性,并且即使增加了可再生能源的渗透,方法的有效性仍然保持一致。比较结果表明,CWGAN-GP 生成的数据集更平衡,而 StaaT 优于其他深度学习算法。该研究提供了一个具有说服力的解决方案,适用于经常面临类别不平衡和数据噪声挑战的实际 STVSA 应用场景。
Oct, 2023
无监督的健康状况监测在复杂工业系统的故障检测中起着重要作用。本研究通过对自编码器和输入 - 输出模型进行综合比较,探索了这两种基于残差的方法在健康指标构建、故障检测和健康指标解释方面的性能。结果显示,输入 - 输出模型在潜在故障类型和可能故障部件的解释方面具有更好的可解释性。
Sep, 2023
该研究介绍了两个将混合(对数)位置 - 尺度分布与深度学习相结合的预测模型,以应对多个故障模式的系统中存在的多重重叠降级信号、未标记历史数据的存在以及不同故障模式之间信号的相似性等挑战,并验证了这些模型相对于现有方法的卓越性能。
May, 2024
通过对工业规模数据集的比较分析,本研究旨在解决高维数据处理、范畴和数值特征的高效预处理以及计算需求等问题,并提供了关于数据预处理、预训练和直接监督学习方法的比较,以及管理计算资源和性能之间的权衡策略。着重于金融时间序列数据建模,旨在促进变压器模型在实际应用场景中的系统开发和部署,强调扩展性。
Nov, 2023
应用知识图谱和梯度提升决策树技术,我们提出了一种能够有效学习少量高维数据的方法,用于电力变压器的安全状态评估和故障分析,取得了相比于神经网络和逻辑回归等其他方法更高的预测准确性,并在进步性、实用性和广泛应用潜力方面有显著改进。
Feb, 2024
提出了一种基于编码器 - Transformer 结构的多元时间序列预测框架,用于预测系统剩余可用寿命,与其他 13 种当前最先进模型相比,其性能提升了平均 137.65%。
Aug, 2023