- 前前算法:一些初步探索
介绍一种新的神经网络学习过程 —— 正向式算法,通过两次正向传递代替反向传播的前向和反向传递,并具有针对正数据具有高好度和负数据低好度的目标函数。
- 神经网络中的偏见解释:探究表征相似性
研究了使用不同目标函数,基于卷积神经网络(如 ResNets)训练偏重数据集的性能和内部表征结构,表明负对数似然(NLL)和 softmax 交叉熵(SCE)作为损失函数得到的 ResNets 表征同样能够在偏重数据上产生更好的性能和细致替 - 基于回归的损失函数在时间序列预测中的综述
本文总结了 14 个常用回归损失函数,列出了它们在时间序列预测中的应用情况,并展示了某些类别的损失函数在所有数据集上表现良好,并考虑将其作为在数据分布未知的情况下的基础目标函数。
- 关于 “模糊 c 均值的迭代加权算法” 的评论
本篇论文中,我们提供了一个简单的替代方法,用于解决模糊 c - 均值问题 (Fuzzy c-Means),并证明了原本由 IRW-FCM 算法得出的迭代式实际上是知名的 Majorization Minimization (MM) 算法的步 - 广播语音中流媒体说话人变化检测的领域感知训练
本文提出了一种新的演训方法,用于说话人变化检测模型,使用目标函数,鼓励模型在指定阈值内预测单个正标签,实验证明该方法相比传统的训练方法在英语和爱沙尼亚语数据集上有很大的改进,另外模型输出可以集中到单个帧上,从而消除了后处理找到确切预测变化点 - ACL通过领域自适应和重新排名控制低资源 NMT 中的形式化语言:SLT-CDT-UoS 在 IWSLT2022
本文介绍了 SLT-CDT-UoS 团队参加 IWSLT 2022 评估活动中形式控制特别任务的贡献。我们在数据工程和目标函数改变上付出了努力,使用语言独立方法从提供的语料库中提取正式和非正式句子对,使用英语作为中间语言,我们将格式注释传播 - 简单对比图聚类
提出一种名为 Simple Contrastive Graph Clustering (SCGC) 的算法,从网络架构、数据增强和目标函数三个方面改进现有方法,通过简单的低通滤波去噪操作和两个多层感知器 (MLPs) 作为骨干网络,通过构建 - CVPR感知优先的弥散模型训练
本文研究了扩散模型学习以优化对应丢失函数的加权和(去噪得分匹配损失)来恢复不同噪声水平的嘈杂数据,并提出了恢复受特定噪声水平损坏的数据作为学习丰富视觉概念的适当预先任务的方法,通过重新设计目标函数的加权方案,在训练过程中优先考虑这些噪声水平 - 基于链的判别自编码器用于语音识别
该论文提出了一种基于自编码器的语音识别方法,使用分类交叉熵和互信息作为目标函数,有效提高音频降噪和增强的效果。
- 量子运动分割
本文介绍了一种基于绝热量子优化的运动分割算法,它在可映射到现代量子退火器的问题实例上达到了与现有技术相当的性能。
- 重型图片增强的定向自监督学习
本文提出了一种方向性自我监督学习模式,采用重度增强策略生成更难学习的视角并将其与轻度增强视图进行匹配,建立了基于方向性的目标函数来提高模型的性能表现;实验结果表明,该模式能够有效训练出更具泛化性的模型。
- ICLR提高 L∞距离网络的认证鲁棒性
本文提出了一种新的神经网络架构,基于 $\ell_\infty$ 距离函数,并通过改进训练过程及目标函数等手段,显著提高了网络的认证准确度,从而领先于同类方法。
- 机器学习类型的带噪随机梯度下降。第二部分:连续时间分析
通过随机梯度下降和先进的基于随机梯度下降的算法找到人工神经网络的适当参数,优化算法在目标函数的某种噪声区域内倾向于选择 “平坦” 最小值,这一趋势与连续时间 SGD 与均匀噪声的选择是不同的。
- ICCV生成可转移的有针对性扰动
该论文提出了一种新的生成方法 —— 高度可转移的有目标扰动(TTP),该方法不依赖于源或目标域标签,能够自适应地合成特定于给定输入的扰动,并且在广泛的攻击设置下始终表现优异。
- 关于可解释性的代价在某些聚类问题中的研究
通过测试,我们发现,在进行 k-means 分类问题时,通过利用决策树可增强算法可解释性,提高性能表现。
- 通过加权重新训练,在深度生成模型的潜在空间中实现高样本效率的优化
提出了一种利用深度生成模型进行优化的方法,通过周期性地在优化轨迹中重新训练生成模型并根据目标函数值加权来有效地提高样本效率和性能。
- 基于卷积神经网络和正则化信息最大化的超像素分割
通过在推理时间内优化随机初始化卷积神经网络(CNN),我们提出了一种无监督的超像素分割方法,通过 CNN 从单个图像生成超像素,无需任何标签,通过最小化提出的超像素分割目标函数来实现。我们的方法与许多现有方法相比有三个优点:(i)利用 CN - 在竖直分割的多方学习中实现差分隐私
通过在目标函数中添加噪声,我们提出了一个新的差分隐私保持多方学习的框架,在垂直分割的情况下仅需要一轮的噪声添加和安全聚合,并将单方和跨方子函数的计算和扰动分配给本地各方。我们提出的方法在合成和真实数据集的线性和逻辑回归实验中表现出了良好的效 - ICML互动决策中不同支持向量的枚举
本文提出了一种针对支持向量机(SVM)的 K-best 模型枚举算法,该算法在支持向量的格子结构分析的基础上,以双重 SVM 问题的目标函数值降序排列的方式,枚举了具有不同支持向量的数据集 S 的 K-best 模型。
- 深度密度比估计用于变点检测
本文提出新的目标函数来训练基于深度神经网络的密度比估计器,并将其应用于变点检测问题。我们比较使用梯度下降法来最小化的目标函数,并表明使用我们的深度密度比估计目标函数在癫痫检测任务上表现比其他基于核函数和神经网络的密度比估计方法和其他基于窗口