- 通过可调变换将学得图像编解码器适应屏幕内容
通过引入参数化和可逆的线性变换,我们的研究提出了一种方法来改善针对屏幕内容图像的学习图像编解码器(LICs)的编码效率,并在不改变基线编解码器操作流的情况下设计了两个神经网络作为预处理器和后处理器,从而帮助增加编码效率并减少编码的伪影。我们 - CLIPDrawX:基于原始元素的文本引导草图合成解释
使用简单的基本图形形状(如直线和圆)的线性变换,通过 CLIPDrawX 算法提供了比现有方法更好的 CLIP 文本嵌入可视化,简化了数学形式。
- Sig-Splines: 时间序列生成模型的通用逼近和凸校准
我们提出了一种新颖的生成模型,用于多变量离散时间序列数据。该算法以神经样条流的构造为灵感,将线性变换和特征变换作为对传统神经网络的无缝替代。这种方法不仅实现了神经网络固有的通用性特性,还引入了模型参数的凸性。
- 跳到结论:利用线性转换简化 Transformer
通过使用线性转换法,我们展示了在语言模型中激活层早期的内部决策过程,这种方法不仅可以产生更加精确的近似结果,还具有节省计算资源的优点。
- 跨语言情感分析的线性变换
本研究探讨了在捷克语、英语和法语中进行跨语言情感分析的方法,使用五个线性转换与 LSTM 和 CNN 基于分类器的零样本跨语言分类。与现有的 BERT 模型相比,我们结合了几种转换,并比较了它们的性能。我们发现,与单语分类不同,来自目标领域 - ACL非线性结构探针
在研究了线性探测器的限制条件后,我们针对六种语言提出了一种具有同样参数数量的非线性变体,并使用径向基函数(RBF)核函数进行了测试,发现在所有语言中,RBF 核函数与正则化相结合能够显著提高基线(Baseline)的性能。
- 卷积动态对齐网络用于可解释的分类
本文介绍一种新型神经网络模型 Convolutional Dynamic Alignment Networks(CoDA-Nets),其核心单元是 Dynamic Alignment Units(DAUs),通过动态对齐任务相关模式,利用线 - ICML关于数据增强中线性变换的泛化效果
本文考察了一系列线性变换及其对于过参数化线性回归问题中的岭回归估计量的影响,证实了保留数据标签的变换能够通过扩大训练数据空间来提高估计精度,而混合数据的变换则能够达到一种正则化效果。在此基础上,提出一种根据模型不确定性搜索变换空间的数据增强 - ICLR关于训练深层线性 ResNets 的全局收敛性
本研究讨论使用梯度下降和随机梯度下降算法进行训练具有 $L$ 层隐藏层的线性残差神经网络(ResNets)所需的网络宽度和线性变换;并且证明了在特定的线性变换和零初始化条件下,GD 和 SGD 算法能够收敛到最小训练误差的全局最小值。
- CVPRGhostNet:低成本运算实现更多特征
提出了一种新的 Ghost 模块,通过一系列的线性变换和廉价成本,生成更多的特征映射,可作为现有 CNN 的插件组件升级,实验证明与 MobileNetV3 相比,GhostNet 在计算成本相似的情况下,可以达到更高的识别性能。
- ACL分析跨语言词嵌入映射的限制
本研究探讨了跨语言词嵌入的离线和联合学习方法,并发现在并行语料库下,联合学习可以更准确地解决不同语言间的相似性问题,尤其在双语词典诱导方面表现更优。因此,建议在跨语言嵌入研究中加强联合学习的研究。
- 通过矩阵乘积运算符对深度神经网络进行压缩
本研究提出了使用矩阵积算子 (MPO) 来代替线性变换表示深度神经网络的方法,该方法可以最大限度地减少可变参数数量而不影响其预测能力,并在多个典型的神经网络上证明了其有效性和高效性。
- 阻止对抗样本:$L_0$- 鲁棒稀疏傅里叶变换
本文提供了一种新的算法,用于逼近离散傅里叶变换的近似稀疏信号,该信号被最坏情况下的 $L_0$ 噪声污染,即信号的一定数量的坐标被任意破坏。我们的技术推广到了各种线性变换,如离散余弦变换、正弦变换、Hadamard 变换及其高维模拟。我们利 - EMNLP通过中间相遇提升跨语言词嵌入
本研究中,我们提出了一种修改交叉语言同义词向中心点移动的方法,可通过最初的线性变换对两个不相交的单语向量空间进行对准来有效学习交叉语言词嵌入,并实现更好的交叉语言整合。同时,我们的实验结果表明该方法明显优于现有方法在单语和跨语言评估任务方面 - 通过数据转换提升机器学习系统的鲁棒性
本文研究在机器学习分类器中针对规避攻击采用数据变换作为一种防御方法。我们提出并探索了包括主成分分析的降维和数据反白化在内的各种数据转换策略,以增强机器学习的韧性,在多个真实数据集上评估和演示了数据的线性转换作为一种抵御规避攻击的有效防御机制 - 通过广义特征向量提取辨别特征
本文研究了一种能够帮助学习系统显著提高性能的特征选取技术,着重探讨了适用于多类分类的可扩展的鉴别特征诱导技术,通过对数据中的简单二阶结构进行分析,探究了一种从类条件二阶矩广义特征向量中提取特征的方法,并显示该方法能够为分类器带来卓越的实证表 - ICML使用局部变换学习不变表示
本文提出了一个新颖的具有转换不变性的特征学习框架,将线性转换纳入特征学习算法中,可应用于无监督学习方法,如自动编码器或稀疏编码,证明在 MNIST 变化,CIFAR-10 和 STL-10 等图像分类基准数据集上具有优越的分类性能并在 TI