- 使用非参数型纳达拉 - 瓦森头获得不变表示的学习
基于 Nadaraya-Watson(NW)头,本论文提出了一种学习不变表示的非参数策略,通过操纵支持集可以编码不同的因果假设,并在计算机视觉领域验证了三个具有挑战性的真实世界域泛化任务。
- ICCV大胆而谨慎:通过谨慎激进的合作释放个性化联邦学习的潜力
本文介绍了个性化联邦学习中客户端协作的新指南,允许客户端与其他客户端共享更多参数,从而改善模型性能。此外,我们还提出了一种名为 FedCAC 的新联邦学习方法,通过定量指标评估每个参数对非独立分布数据的敏感性,并根据该评估精选合作伙伴。实验 - AR-TTA:一种用于现实世界中连续测试时适应的简单方法
提出了一种名为 AR-TTA 的方法,该方法在自主驾驶领域中进行了测试时间适应,以处理不同程度的领域转变,并在维护源模型知识和适应动态变化的数据流方面表现优越。
- 语料库与知识库连接中的数据分布瓶颈
语言模型在理解和生成自然语言和形式语言方面已经展示出了显著的能力。然而,它们与大规模知识库等真实环境的整合仍然是一个不发达的领域,影响着语义解析等应用,并导致 “幻觉” 信息的产生。本文是一项实验性研究,旨在揭示语言模型在知识库问答方面所遇 - 无监督领域适应中的领域自适应扩散
提出一种新颖的领域自适应扩散(DAD)模块和互学习策略(MLS),通过将源域数据逐渐转化为目标域数据并使分类模型在领域转换过程中学习,成功将领域适应的挑战分解为多个小领域间隙并逐步增强分类模型的能力,从而在三个广泛使用的无监督领域自适应数据 - 一致性模型的收敛保证
我们给出了一种新型一步生成模型的收敛保证,这种模型被称为一致性模型(CMs),可以在一步内高效地从任何现实数据分布中进行采样并产生与弥散模型生成的样本相媲美的结果。
- MSAC: 多音频情绪识别的多语音属性控制方法
通过建立一种新型的基于卷积神经网络的语音情感识别模型,以及提出一种新颖的多种语音属性控制方法 MSAC,该研究通过对数据分布的建模来探索语音情感的可靠性,并首次尝试使用超出分布检测方法测试和分析提出的情感识别工作流程的可靠性,实验证明了该方 - 电机故障诊断的基础模型
提出了一种基于自监督学习的神经网络模型来解决电动机故障诊断的问题,通过微调模型在不同故障情景、不同机器之间实现了超过 90%的分类准确度,具有广泛的潜力应用于现实世界中的跨机器故障诊断任务。
- 使用双重控制器解决联邦半监督学习中的数据不平衡问题
该论文提出了一种名为 FedDure 的新型 FSSL 框架,其中采用双重调节器(C-Reg 和 F-Reg)来解决数据分布不同的 FSSL 实际和挑战场景,并用双层优化来调整模型的训练过程,理论和实证结果都表明 FedDure 优于现有方 - 更多的协同作用、更少的冗余:利用联合互信息进行自监督学习
本论文探讨了互信息在自监督学习(Self-supervised learning,SSL)中的作用,并引入了 PID 方法来最小化视图间冗余信息和最大化协同信息,提出了一种新的 SSL 训练协议。在多个数据集和下游任务上进行了广泛的实验,证 - 自适应数据采集的增强学习离线策略评估
本文针对相对于通常的数据收集方式更加广义的数据收集方式下离线 RL 算法的理论保证问题进行研究,并探讨 TMIS Offline Policy Evaluation 在 tabular MDPs 下的最小最优保证问题及实验分析。
- KDD联邦式少样本学习
本文介绍了一种新颖的问题:在联合学习场景下,如何面对数据有限的客户端。为了解决数据分布和本地数据不足等问题,提出了联合少样本学习框架,并进行了大量实验,证明了该框架的有效性。
- ICML生成图探测
我们提出了第一个生成图检测框架,通过四种分类场景探索了一系列复杂模型的性能,证明了这些模型都能够成功检测到生成的图,并且具有一定的稳健性和普适性,从而能够有效地遏制生成图的恶意滥用与虚假传播。
- ICML跨组织边缘学习中协作结构优化
本文提出了 FedCollab,一种基于数据分布距离和数据数量对客户端进行聚类的新型联邦学习框架,可以有效地减轻负面转移问题,并在各种 FL 算法中始终优于其他聚类 FL 算法。
- 模型、数据和特征的联合交互
通过引入交互张量来分析数据和模型的特征交互,我们提出了特征学习的概念框架,并在其基础上推导了一些理论结果,包括解释广义推广误差相等性等现象的理论构建,从而增进我们对特征学习的理解。
- 基于扩散的对抗样本生成技术,改善隐蔽性和可控性
该论文提出了一种名为 Diff-PGD 的新框架,用于生成逼真的对抗样本,并通过使用扩散模型引导梯度,确保对抗样本保持靠近原始数据分布同时保持其有效性,证明使用 Diff-PGD 生成的样本具有更好的可转移性和抗净化能力。
- 常用扩散噪声计划和样本步长存在缺陷
通过检测斑点扩散噪音调度方案,研究发现某些实现方式的差异在训练和推理中会导致模型输出失真,提出了改进措施,包括:规范化噪声调度方案、加入 v 预测、更改采样器以从最后一个时间步开始采样、对无分类器的指导进行缩放,使扩散过程在训练和推理中保持 - 利用赌率反馈的表现预测:通过重新参数化进行学习
本研究旨在研究不需要假设空间为凸集且模型对数据分布的映射事先已知的可应用的可执行预测问题。通过开发两级零阶优化算法,该算法一级旨在计算分布图,而另一个级别则将可执行预测目标重新参数化为由所引发的数据分布的函数。在一定的条件下,这种重新参数化 - 深度迁移学习用于自动语音识别:迈向更好的泛化能力
本论文通过应用深度迁移学习的自动语音识别框架对最新的发展进行综合调查研究,以帮助学术和专业人士了解当前挑战,并识别论文中每个框架的优缺点。
- 关于流式联邦学习中本地缓存更新规则的研究
本研究提出了三个本地缓存更新规则来管理动态数据分布和有限缓存容量,进而减小数据分布偏差并提升模型性能,总结了流式联邦学习的最新进展和应用前景。