BriefGPT.xyz
Ask
alpha
关键词
imbalanced labels
搜索结果 - 2
大型语言模型如何在上下文中学习?在上下文头部中的查询和关键矩阵是度量学习的两个关键因素
我们通过定位和投射方法探索了上下文学习的机制,并提出了一种假设。在浅层中,合并演示的特征到对应的标签中,将输入文本的特征聚合到最后一个标记中。在深层中,上下文头起到了重要作用。在每个上下文头中,值输出矩阵提取标签的特征。查询和键矩阵计算输入
→
PDF
5 months ago
非监督强化适应在类别不平衡文本分类中的应用
本文提出了一种通过强化学习进行的无监督领域自适应方法,该方法联合利用了特征变体和跨领域的不平衡标签,实验表明这种方法可以成功地在不平衡的文本分类数据上适应文本分类器。
PDF
2 years ago
Prev
Next