linear layer | BriefGPT - AI 论文速递

关键词linear layer

搜索结果 - 6

COLING单个线性层生成任务适应性低秩矩阵
一个单线性层产生了任务适应的低秩矩阵，此方法在效果上与 LoRA 相当，但可训练参数更少。
PDF3 months ago
见者非必信者：无害扰动的空间
在深度神经网络的背景下，我们揭示了一种无害扰动空间的存在，即使应用于图像的扰动的幅度不同，也不会对原始图像的网络输出产生任何影响。具体而言，在网络中的任何线性层中，其中输入维度 $n$ 大于输出维度 $m$ 时，我们证明了连续的无害扰动子空
PDF5 months ago
ICML跨模型对齐实现文本到概念的转换（双向）
该文提出了基于线性层的文本到概念 (text-to-concept) 方法，通过该方法，将现有的视觉编码器转化为强大的零样本分类器，并进一步提出了概念到文本 (concept-to-text) 的解码方法。
PDFa year ago
预测已知信息有助于自证自学
这篇论文提出了一种基于自监督学习的特征学习方法，通过预测无标签数据的辅助任务来学习有用的语义表示，并使用线性层来对学习的表示进行下游任务预测，从而显著降低了样本复杂度。
PDF4 years ago
EMNLP利用预训练语言表示和最少任务特定架构的生物医学关系提取
本文介绍了我们参与 2019 年 BioNLP 开放共享任务的 AGAC Track，我们提供了 Task 3 的解决方案，该方案旨在提取 “基因 - 功能变化 - 疾病” 三元组，其中 “基因” 和 “疾病” 分别是特定基因和疾病的提及，
PDF5 years ago
ACDC：结构化高效的线性层
本文提出了一种新的深度完全连接神经网络模块，由对角矩阵和离散余弦变换组成，并说明了如何将 ACDC 层级联近似于线性层，实验表明可成功地与卷积神经网络相结合，同时提出了该模块与傅里叶光学的联系。
PDF9 years ago