pooling strategies | BriefGPT

关键词pooling strategies

搜索结果 - 5

ACL不要愚蠢：用户意图的敌对攻击中的汇聚策略在攻击性语言检测中的应用
该研究提出了防御用户意图中的敌对攻击的简单而有效的分层池化策略，以提高对攻击性文本的检测性能。研究发现，通过使用这些池化策略，即使攻击强度增加，预训练于干净文本的模型也能够实现与预训练于含噪文本的模型相当的检测性能。
PDF4 months ago
稀疏化再分类：从大型语言模型的内部神经元到高效的文本分类器
我们的研究提出了一种使用所有内部表示的方法，通过在所有激活和隐藏状态上采用多种池化策略，首先逐层稀疏化特定于任务的特征，然后在层之间进行聚合，用于文本分类。我们的实验证明，STC 不仅在预训练和微调模型上稳定提高了分类性能，而且在训练和推断
PDF7 months ago
探索词嵌入偏移聚类在关系分类中的应用
本研究探讨了一种使用不同的聚合策略将单词向量之间的关系表示为向量的方法，并使用聚类模型来分析它们的正确匹配性。实验结果表明，减法聚合策略配合基于中心点的聚类机制在性能上表现更好，该研究旨在为基于词嵌入的无监督方法提供一个识别成对词汇之间关系
PDFa year ago
深度相似网络的可视化
本文介绍了一种针对卷积神经网络模型中图像嵌入优化的方法，用于突出显示贡献最大的图像区域，可用于相似性学习领域的问题。我们还将该方法推广至使用不同池化策略的嵌入网络，并提供了一种支持查询图像中物体或子区域的图像相似性搜索的简单机制。
PDF6 years ago
深度卷积神经网络在 LVCSR 中的改进
本文通过比较不同的权重共享、池化策略和加入说话人自适应、dropout 等措施，改进了深度卷积神经网络（CNN）性能，在广播新闻任务中实现了 WER 2-5% 的相对提升。
PDF11 years ago