- 元学习的神经程序偏差
通过神经程序化偏差元学习(NPBML)的提出,我们可以通过元学习的过程来赋予神经网络特定的程序化偏差,以实现对分布式学习任务的高性能表现。
- 基于对比度的图谱自监督学习中光谱提示是否重要?
对对比度图自我监督学习中光谱信息的贡献进行讨论,发现基于光谱特征的增强方法在学习性能上表现优异,但基于边缘摄动的简单策略在性能方面更出色,且资源消耗更低。这些结论为图像自我监督学习领域带来了重要进展,可能改变对图像自我监督学习的理解和应用。
- 用于无模型强化学习的多状态 TD 目标
提出了一种基于增强的多状态 TD 目标的完整的演员 - 评论家算法,该算法将回放缓冲区管理与深度确定性策略优化和软演员评论家相结合,实验结果表明采用 MSTD 目标的算法相比传统方法显著提高了学习性能。
- 探索航拍人体检测的合成数据影响
本文研究了航拍人体检测中利用合成数据来训练的方法,通过探讨实际数据、合成数据和数据池选择对合成数据的质量影响以及利用合成数据提高学习性能和域泛化能力的效果,发现了几个重要的发现,为未来研究提供了更合理的使用合成数据的方向。
- 一种用于联邦学习的逐元素权重聚合方法
该研究介绍了一种基于元素权重聚合的联邦学习方法(EWWA-FL),旨在优化学习性能和加速收敛速度。通过将本地权重聚合到全局模型的个别元素级别,该方法允许每个参与的客户端对学习过程进行元素级贡献,从而提高了全局模型对不同数据集的鲁棒性以及实现 - 基于 1 位梯度编码的分布式学习在滞后者存在下的应用
本文研究了分布式学习在存在迟滞节点的情况下的问题,提出了一种基于 1-bit 梯度编码的新的分布式学习方法,通过降低通信开销,在相同的通信开销下获得更好的学习性能。
- 图神经网络的层间多样负采样
图神经网络中的负采样方法通过采样矩阵和空间压缩技术改善了负样本的多样性,从而提升了学习性能。
- 基于大型语言模型的学习表现预测:一个成年识字能力的研究
应用大型语言模型,如 GPT-4,预测智能辅导系统中成人识字课程的学习表现。研究表明,GPT-4 与传统机器学习方法在预测学习表现方面具有竞争力,而 GPT-4 与 XGBoost 的结合在性能上优于本地机器执行。此外,研究发现 GPT-4 - 网络拓扑对分布式联邦学习性能的影响
去中心化学习以网络结构、学习效果、中心性指标和知识传播为重点,通过研究三种网络拓扑和六种数据分布方法,发现全局中心性指标与学习效果相关,而局部聚类性影响较小;同时揭示了从外围到中心节点的知识转移的挑战,以及中心节点对知识传播的拉力效应;探讨 - 荷电陷阱快闪存(CTF)的非理想程序 - 时间对深度神经网络的系统影响
通过使用阻性处理单元(RPU)架构学习深度神经网络(DNN)可以实现高效能的能源利用,因为它利用专用的神经形态硬件和在内存计算中进行随机加权更新。我们提出了一种脉冲列设计补偿技术来降低由非理想程序时间和网络随机方差引起的总误差,并在 MNI - IJCAIAPALU:一种用于深度学习网络的可训练自适应激活函数
训练激活函数 APALU 在深度学习中具有鲁棒性和适应性,通过提升深度神经网络和递归神经网络在各种任务中的学习性能,以及在图像分类、异常检测和回归任务中广泛应用的激活函数的改进,证明其在不同的深度学习应用中表现出稳定性和效率的特点。
- 使用属性选择和多模态数据源集成改进智能辅导系统中的学生表现预测
本研究旨在使用来自智能教学系统的多种数据源来预测大学生的学习表现。通过采集和预处理来自 40 名学生的多模式数据,包括系统日志中的学习策略,面部录像中的情绪,眼动追踪中的交互区域以及最终知识评估中的测试表现。我们的目标是通过使用属性选择和分 - PPO 中的有色噪声:通过相关动作采样改进探索和性能
基于彩色噪声的随机策略改进 PPO 探索性能和学习表现,建议在 PPO 中将相关噪声作为默认噪声源。
- OTMatch:以最优传输方式改进半监督学习
本文介绍了一种新的方法 OTMatch,通过使用最优输运损失函数,利用类别之间的语义关系,提高半监督学习的性能。与现有最先进的方法 FreeMatch 相比,在 CIFAR-10、STL-10 和 ImageNet 数据集上分别实现了 3. - 变分基于测量的量子计算用于生成模型
基于测量的量子计算(MBQC)利用量子测量的固有随机性设计量子算法,以及利用 MBQC 中的随机副产品作为计算资源来进行的生成建模任务的算法设计工作。我们提出了一种带有控制参数的变分 MBQC 算法,可以直接调整计算中接纳的随机程度。我们的 - FedLPA:具有逐层后验聚合的个性化一次性联邦学习
通过一次性聚合方法(One-shot Aggregation)并引入分层后验聚合(Layer-wise Posterior Aggregation)的新方法 FedLPA,实现在其他机器学习领域中每一层的数据的继承和共享,从而显著提升了该方 - 调查策略梯度算法中行动表示的影响
强化学习是一种用于解决复杂实际问题的多功能学习框架,本研究讨论了不同的分析技术,并评估它们对于研究强化学习中行为表示对学习性能的影响的有效性。实验证明行为表示对流行强化学习基准任务的学习性能有显著影响,分析结果指出性能差异的一部分可以归因于 - 曲率如何增强框架图卷积神经网络的适应能力
本文介绍了一种通过离散图 Ricci 曲率来增强图神经网络(GNN)的方法,并验证了在 GNN 中引入曲率信息可以缓解过度平滑等计算问题,并且基于曲率的图边丢弃算法进一步提高了模型对异质图的适应性,在同质图和异质图数据集上均优于现有基准模型 - 使用《隐藏规则》游戏比较强化学习和人类学习
本文通过构建一个学习环境,研究深入分析任务结构对人类学习和增强学习的影响,并通过任务结构的实验,证明这个学习环境能够帮助人们研究任务结构对于人类和增强学习算法差异的影响。
- AAAI探索脉冲神经网络中的时间信息动态
本文通过估算 SNN 中权重的 Fisher 信息在训练期间的分布来回答了几个基本问题,发现时间信息浓缩现象是 SNN 的一个普遍的学习特征,并提出了一种基于该现象的高效迭代剪枝方法。