attention-based approach | BriefGPT

关键词attention-based approach

搜索结果 - 6

视觉 Transformer 中的稀疏二次下降：真实还是虚幻的威胁？
Vision transformers are state-of-the-art models that use attention to identify key features in images, but their perform
PDFa year ago
MM具有快捷路由的胶囊网络
该研究引入了一种名为 “快捷路由” 的新型机制，它通过直接激活局部胶囊中的全局胶囊来解决计算效率问题，消除了中间层。同时，还探索了一种基于注意力机制和模糊系数的方法，以提高效率。在 Mnist、smallnorb 和 affNist 数据集
PDFa year ago
言语声学环境与情感识别关系的实证解释
本研究探究了基于注意力机制的分布式方法在语音情感识别中的应用，提出了通过将手机和单词映射到注意向量的交叉语料分析实验方法来寻找声学环境和情感之间的关系，以期将心理语言学理论研究与计算建模结合起来。
PDFa year ago
基于关注机制的上下文信息量预测模型及课程学习应用
通过注意力机制和上下文信息评估单词背景下的信息量，该研究提出了一种用于导出关键上下文元素用于单词理解的有效方法，并探究如何将其应用于学生词汇学习和机器学习中。
PDF2 years ago
CVPRContext R-CNN: 针对每台摄像机的长期时间上下文目标检测
本文提出了一种基于注意力机制的方法，通过利用一个摄像头的未标记视频帧的时间上下文来提高该摄像头的目标检测性能，并将其应用于两种场景：使用相机陷阱的物种检测和在交通摄像头中的车辆检测。结果表明，Context R-CNN 比强基线方法获得了更
PDF5 years ago
ACLTransformer 模型中的注意力的多尺度可视化
通过使用注意力机制，Transformer 模型不仅在性能上有所提升，同时还可通过可视化工具展示模型如何赋权于不同的输入元素，从而实现模型的解释和解读，本文提出了一种开源的基于多尺度可视化注意力机制的工具，并在 BERT 和 OpenAI
PDF5 years ago