- KDD处理时间序列预测中的预测延迟:采用导数正则化的连续 GRU 方法
传统时间序列预测任务的新视角和通过时间导数正则化减小预测延迟的一种新解决方案。采用基于神经元常微分方程的连续时间门控循环单元(GRU)可以监督显式的时间导数,方法在 MSE、动态时间规整和时间扭曲指数等指标上优于其他方法,并在多个数据集中展 - 大规模投资前的动漫热度预测:基于深度学习的多模态方法
本研究提出了使用多模态文本图片数据集预测日本动漫热门度的方法,通过使用从互联网中获取的开源数据构建这一数据集,利用基于 GPT-2 和 ResNet-50 的深度神经网络模型,研究多模态文本图片输入与热门度之间的相关性,发现数据集的相关优势 - 单变量 ReLU 网络中稳定的极小值无法过拟合:大步长的泛化
我们研究了具有噪声标签的一元非参数回归问题中两层 ReLU 神经网络的泛化。我们提出了一种新的局部极小值泛化理论,证明了梯度下降算法在常数学习率下能稳定收敛至该极小值。我们证明了在合理的假设下,梯度下降算法可以找到表示平滑函数的局部极小值, - 基于多图卷积神经网络模型的信号化路口短期转向动作预测
交通流量预测是智能主动交通管理的关键第一步。本研究引入了一种新型的深度学习架构,称为多图卷积神经网络(MGCNN),用于交叉口的转弯动作预测,并通过在时间和空间上建模交通数据的变化来改善预测性能。在实验中,该模型在对比其他四种基准模型的情况 - 编码计算:一个学习理论框架
编码计算是在大规模分布式计算中解决显著挑战的一个有前途的框架,本论文提出了一种基于学习理论的新型编码计算框架,通过最小化损失函数,结合编码器和解码器函数,以求得估计误差的均方误差衰减率,并在各种机器学习模型的推理任务中展示了该框架在准确性和 - 无线计算的波形设计
本文提出了关于 OTA 计算的理论分析,探讨了在当前数字通信收发器中遇到的实际问题,如时间采样误差和符号间干扰(ISI),同时研究了减小 OTA 传输中的均方误差的方法。此外,我们还提出了一种基于深度神经网络的波形设计方法,以提升在时间采样 - 一种基于双重样本回收方法的高效有限差分逼近
我们在本文中提出了一种双重样本回收方法,用于估计随机梯度,进而获得最优有限差分估计器,分析了其偏差、方差和均方误差,并在数值实验中应用该估计器,结果表明其与理论一致性和鲁棒性在小样本大小情况下尤为突出。
- 在 Shuffle 模型中的私有向量均值估计:令人满意的速率需要大量信息
我们研究了隐私洗牌模型下的私有向量均值估计问题,提出了一种新的多消息协议,每个用户使用 Ο(nε²,d) 个消息实现最优误差。此外,我们证明了实现最优误差的任何(无偏)协议都需要每个用户发送 Ω(nε²/dlog (n)) 个消息,从而证明 - 在流式和大规模并行模型中找到决策树分裂
本研究提供了数据流算法,以计算决策树学习中的最佳分割点,从而将数据分为两组,使得均方误差(对于回归)或误分类率(对于分类)最小化。这些算法利用亚线性空间和少量遍数解决这些问题,并可扩展到大规模并行计算模型。
- 注意力作为稳健的时间序列预测表示
我们的研究表明,利用全局标记和局部窗口构建的注意力图作为数据点的稳健核表示,可以提高时间序列的预测准确性,并且在不改变核心神经网络结构的情况下,我们的方法胜过了最先进的模型,将多变量时间序列预测的均方误差 (MSE) 降低了显著的 3.6% - 模型驱动增强学习中可靠学习动力学的多步损失函数
采用多步目标来训练一步模型,在模型为确定性时,一步模型作为强基线,在存在噪音时,多步模型更具优势,突显了我们方法在实际应用中的潜力。
- 基于聚类和 Pix2Pix 的 MRI 扫描合成方法
研究自动分割用于磁共振成像 (MRI) 脑部扫描的遗漏数据问题,通过合成扫描图像解决数据缺失问题,并使用聚类和像素转换等多种方法进行图像合成,验证合成图像在分割过程中的有效性。
- 通过无线信道进行的 q-QAM 盲联合学习
在这项研究中,我们针对多路径 fading 信道进行了联合边缘学习的研究,通过引入一种创新的数字过空中计算策略,采用 q 进制正交幅度调制,提出了一种低时延通信方案。我们分析了消除无线通信中的 fading 所需的天线数量,并通过数值实验证 - 自监督集合表示学习用于无监督元学习
通过合成样本,提取特征和目标特征之间的均方误差来研究自监督学习中数据集蒸馏和特征提取的方法,并在转移学习中进行了验证。
- 基于输运方程的物理信息神经网络预测构型材料的屈服强度
研究探讨了物理信息神经网络(PINN)模型在解决基于输运方程的偏微分方程(PDEs)方面的应用,主要目的是分析在 PINN 模型中不同激活函数对其预测性能的影响,特别是均方误差(MSE)和平均绝对误差(MAE)的评估。研究使用的数据集包含与 - 神经网络有限角度断层成像的拉伸正弦图
本文提出了一种使用卷积网络进行有限角度层析重建的直接方法,并通过最小化均方误差来训练网络以获得更好的三维重建效果。
- 经验回放的时间差分学习
本文介绍了一种关于 Temporal-difference (TD) 学习与经验重放的算法,并提出了对其有限时间和误差控制的方法。
- 一般回归误差假设下无岭最小二乘估计器的均方误差
本文从均方误差的角度对 ridgeless interpolation least squares estimator 进行分析,证明相对于样本大小引入大量不重要的参数能够有效降低估计器的均方误差,并且利用回归误差的方差 - 协方差矩阵的迹 - 优化集成逼近加速扩散采样过程
优化 ODE 求解器系数的积分逼近技术提升了基于 ODE 的采样算法的性能并加速了采样过程。
- 递归特征机器的特征缩放
本研究通过对回归数据集的一系列实验研究,探讨了一种新型核机器 —— 递归特征机的行为,发现与神经网络行为类似的双下降现象表现,揭示了 RFMs 和神经网络行为之间的新联系,为未来的研究打下了基础。