model update | BriefGPT - AI 论文速递

关键词model update

搜索结果 - 7

跳跃教学：高效稳健的有噪标签学习
抽样选择、标签噪音、模型更新、选择偏差和语义特征空间是此论文的关键词。该论文提出的方法在各种噪声设置中实现了近 2.53 倍的加速，0.46 倍的峰值内存占用，并具有卓越的鲁棒性。
PDFa month ago
规模鲁棒的及时异步分散式学习
分布式异步学习系统通过模型更新和模型混合过程实现用户模型在有限时间内的收敛，并证明了当网络规模很大时，具有对数规模的用户混合能够保证用户模型的收敛，而有界的陈旧度只能通过至少与用户数量成线性关系的分布式机会方案来保证。
PDF2 months ago
恶意软件检测中针对概念和数据漂移的神经网络优化
以机器学习模型为基础的恶意软件检测面临恶意软件不断进化导致的概念漂移问题，本研究提出一种模型无关的协议来改善基线神经网络处理漂移问题，并展示了特征约简和使用最新验证集进行训练的重要性，同时还提出了一种名为 DRBC（Drift-Resili
PDF10 months ago
AAAIFedGS: 基于图的联邦采样算法与任意客户端可用性
提出一种名为 FedGS 的框架，通过构建数据依赖图、限制采样次数等方法稳定了全局模型更新，解决了联邦学习中由于客户端可用性不稳定带来的模型偏差问题。实验结果验证了 FedGS 在实现公平客户端采样以及提升模型性能方面的优势。
PDF2 years ago
ICLR具备分歧感知的联邦自监督学习
通过具体实验研究发现了联邦自监督学习的深入见解，并提出了一种新的方法用于解决分散数据的非独立同分布问题。该方法称为 FedEMA，它使用全局模型的 EMA 来自适应地更新客户端的本地模型，并采用动态度量模型发散的的衰减速率。实验结果表明，F
PDF2 years ago
ACL探究微调模型时数据大小的重要性
研究表明优化 Fine-tuning 效果的原因是 Fine-tuning 的数据集大小，同时数据集大小会影响编码的语言知识程度，而且数据集大小主要影响神经网络的高层，且这种影响程度跟 Fine-tuning 迭代次数有关。
PDF2 years ago
负采样增量式 Skip-gram 模型
本文从经验和理论两个角度，探索了一种用于 skip-gram 模型的增量式训练策略，通过提供简单的增量式扩展并深入理论分析，解决了现有神经词向量嵌入算法（包括 SGNS）的多遍训练和无法进行增量式更新的问题，实证实验证明了其正确性和实用性。
PDF7 years ago