May, 2024

DAM：一种用于多模态时序加密货币趋势预测的通用双重注意机制

PDF
TL;DR通过结合区块链技术、加密货币趋势预测和情感数据分析，本文提出了一种新颖的双重注意机制 (DAM) 来预测加密货币趋势，并通过 CryptoBERT 模型对新闻和社交媒体上的情感数据进行分析。该方法将分布式系统、自然语言处理和金融预测相结合，相较于传统模型如 LSTM 和 Transformer，预测准确性提高了 20%。这一进展深化了对分布式系统的理解，并在金融市场中具有实际意义，对加密货币和区块链技术的利益相关者有所裨益。此外，增强的预测方法可以显著支持分散式科学 (DeSci)，促进战略规划和区块链技术的高效采用，提高数字资产领域的运营效率和金融风险管理，从而确保资源的最优配置。
blockchaincryptocurrency trendsdual attention mechanismmultimodal time-series datafinancial forecasting
发现论文，激发创造
  • 用于方面级情感分类的双重关注模型

    提出了一种新的双重注意模型 (DAM) 用于方面级情感分类，该模型使用依存标签作为关注机制以提高性能，并在 SemEval 2014 和 Twitter 数据集上进行实验，取得了良好的效果。

    Mar, 2023

  • TDAM：一种基于主题依赖的情感分析注意力模型

    提出了一种基于主题依赖的注意力模型用于情感分类和主题提取，其中在多任务学习框架下，通过注意力机制推导出局部主题嵌入。模型基于修改后的门控循环单元 (GRU) 实现了情感分类和具有不同情感极性的主题提取，能够不使用方面级别注释的情况下提取质量较高的主题。

    Aug, 2019

  • 利用 Transformer 神经网络和技术指标提升加密货币价格预测

    该研究通过整合技术指标、Performer 神经网络和 BiLSTM (双向长短期记忆) 方法来预测加密货币的时间序列，尤其关注比特币、以太坊和莱特币。该方法在提取原始加密货币数据的时间动态和显著特征方面，应用于技术指标，有助于提取复杂模式、动量、波动性和趋势，同时结合了 Performer 神经网络和 BiLSTM 来增强模型对时间动态的捕捉能力，取得了优于传统 Transformer 模型中传统的多头注意力机制的计算效率和可扩展性。该方法已应用于主要加密货币的小时和日时间框架，并与文献中的其他方法进行了基准测试，结果强调了该方法在加密货币价格预测领域的潜力，可能超越现有模型。

    Mar, 2024

  • 视频故事问答的多模态双重关注记忆

    本研究提出一种视频故事问答架构，名为 Multimodal Dual Attention Memory （MDAM）。使用双重注意机制，结合自我注意力和注意力机制在场景帧和字幕中学习潜在的概念，并在双重注意力处理后执行多模态融合，从而学习从整个视频内容的抽象中推断出高级视觉语言联合表示。在 PororoQA 和 MovieQA 数据集上，该模型均取得了新的最优结果，并通过消融研究验证了双重注意机制与后期融合的最佳性能。

    Sep, 2018

  • 加密货币市场预测的社交媒体情感分析

    本研究探讨了不同的自然语言处理模型在社交媒体情感分析中的可用性，应用于金融市场预测，以加密货币领域为参考。我们研究了不同情感度量与比特币价格波动之间的相关性。通过实验我们发现有一个模型优于其他 20 多个公开模型，且通过 fine-tune 可以得到更好的性能，其解释性更强。因此我们证实可解释的人工智能和自然语言处理方法可能比不可解释的方法更有实际价值。最后，我们分析了不同情感度量与价格波动之间的潜在因果关系。

    Apr, 2022

  • 使用动态贝叶斯网络进行加密货币价格方向的因果特征工程

    本研究提出了基于动态贝叶斯网络的方法，借助技术指标预测五种流行数字货币的价格趋势，并证明该模型的有效性。

    Jun, 2023

  • DAM-Net: 基于差分注意力度量的视觉 Transformer 技术在 SAR 图像中全球洪涝检测

    本文提出一种新的基于差分注意力度量的网络 --DAM-Net，用于检测洪水区域。DAM-Net 包括两个关键组件：一个共享权重的双子背骨结构，用于获得多时相图像的多尺度变化特征和具有高级语义信息的表示水体变化的令牌，以及一个融合语义令牌和变化特征的时态差分融合模块，以生成减少斑点噪声的洪水地图。通过在提出的 S1GFloods 数据集上进行实验，证明 DAM-Net 相比当前最先进的方法在总体精度、F1 分数和 IoU 三个指标上都有明显提升。

    Jun, 2023

  • 跨语言语音情感识别：使用多模态双重注意力变换器

    本研究提出了一个利用基于多模态双重注意力变换器模型，结合图注意力与协同注意力，以提高跨语言情感识别性能，在 4 个公开数据集中获得了优秀表现的方法。该方法在高层次特征表示方面利用 Transformer 编码层来提高情感分类精度，并通过在各个阶段对特征表示进行细化以提供情感显著特征，既保留特定模态的情感信息又增强了跨模态和跨语言交互。

    Jun, 2023

  • Twitter FinBERT 嵌入式的多模态模型用于比特币极端价格变动预测

    本文提出了一种多模态预测模型，利用 Twitter 社交媒体以及其他相关资产价格和技术指标等预测比特币价格波动，最终构建一个能够准确预测市场运动的模型，提出了一种基于模型预测的交易策略，与传统策略相比风险更低，可用于实际交易。

    May, 2022

  • 使用深度强化学习的预测性加密资产自动化做市架构，用于去中心化金融

    提出了一种基于深度学习的增强型自动化市场制造商，用于提高实际 AMM 的流动性提供，并降低流失和滑点损失。

    Sep, 2022