- 联邦学习中的偏差传播
参与联邦学习可能对群体公平性产生不利影响,而且这种偏见通过网络传播给所有参与方;我们分析并解释了联邦学习中的偏见传播问题,并发现在训练过程中,有偏见的参与方会不知不觉地在一小部分模型参数中编码其偏见,增加全局模型对敏感属性的依赖性;与集中式 - ReLU 浅层神经网络的逼近速度
ReLU shallow neural networks can uniformly approximate functions from the H"older space with rates close to the optimal - 复杂系统中的无监督学习
本论文探讨了利用复杂系统研究自然和人工系统的学习和适应能力,旨在开发能够无需监督学习、自主发展并随时间变得越来越复杂的自主系统。复杂系统被视为理解这些现象的适当框架,因其能够展现复杂性的增长能力。通过理解复杂系统中学习的基本原理,我们希望能 - 战略性非局部分布漂移的耦合梯度流
本文提出了一种新的框架,用于分析实际系统中分布转移的动态,该框架捕捉算法学习和它们所部署的分布之间的反馈循环,并针对两种常见的机器学习情景,通过偏微分方程模型证明了再训练过程的渐近收敛性,同时通过实证研究表明,该方法能够很好地捕捉自然数据中 - 学习有界协方差高斯混合模型的 SQ 下界
本论文研究了学习具有相同未知有界协方差矩阵的分离高斯混合模型的复杂性,证明了该问题的任何统计查询算法至少需要 d 的阶次 1/ε 的复杂度,这为已知算法的最佳性提供了证据。
- 批次稳定高维超参数线性回归中的最小范数风险
本文探讨了使用小批量的阈值学习算法进行分类的好处及最小二乘回归模型的上限风险,同时提出了一个基于特征重叠的小批量版本的最小二乘估计器,它比最小二乘估计器更稳定
- 对抗鲁棒学习理论基础
本文提出了一种学习算法,旨在解决对抗性示例对机器学习模型的攻击,并尝试通过设计新的算法和理论分析来提高其鲁棒性和性能。
- 多单位拍卖中的在线学习
该论文研究了在重复多单位拍卖中基于均匀定价的两个变体,并分析了在线和离线设置下的问题。作者提出了离线最优策略算法,并设计了高效的在线算法,同时通过博弈理论探究了平衡的质量。
- 在线深度强化学习黑盒目标化奖励中毒攻击
本文提出了一种针对在线深度增强学习的黑盒定向攻击方法,通过在训练时进行奖励污染,攻击突破了未知环境和未知算法的限制,并且攻击成本较低。作者通过实验验证,在不同的环境和学习器中,攻击可以高效地导致学习代理到达各种目标策略。
- SPENSER:面向卷积脉冲神经网络的神经进化方法
该论文提出了 SPENSER,一个基于 DENSER 的 SNN 自动设计与参数化的 Neuroevolution 框架,用于在 MNIST 和 Fashion-MNIST 数据集上进行图像分类,可以生成表现出色的网络。
- 信息论泛化界的统一框架
文中提出了一种利用概率去相关引理、对测度空间中的的概率测度进行对称化、配对和链化等技术来获得学习算法信息论泛化界限的一般性方法,进而得到新的期望值和高概率条件下泛化误差的上界,特别地,还包括了基于互信息、条件互信息、随机链和 PAC-Bay - 最佳努力适应
通过重写样本的方法,设计出适用于少量标记样本目标域的有效预测器,并提出了适用于标记数据较少或目标域不存在标记数据的标准域适应问题的改进解决方案和算法。
- ICML探究多标签学习中宏平均 AUC 的泛化能力
本文旨在理解和解决多标签学习中常用的宏平均(Macro-AUC)评价指标的理论问题。通过对 PASCAL VOC、Yahoo、和 MS COCO 数据集的实验结果和理论分析,发现数据集的类别不平衡是影响宏平均评价指标泛化范围的关键因素,并提 - 决策时间规划的更新等价框架
通过引入基于更新等价的框架,使决策时间规划算法不依赖公共信息,可以在具有大量非公共信息的场景中有效地进行决策时间规划。在 Hanabi 中的实验中,该算法家族的成员产生了可比较或优于最先进方法的结果,并且改善了 3x3 Abrupt Dar - CVPR关于类别增量学习中的稳定性和可塑性两难问题
本文研究了班级迭代学习中的稳定性和可塑性之间的平衡,通过分析工具测量了特征表示的稳定性和可塑性,并发现大多数班级迭代学习算法更偏向稳定性而非可塑性,这不仅启发了新的算法,也提醒了班级迭代学习算法需要不断改进特征表示学习。
- 使用条件样本学习隐马尔可夫模型
该论文研究了学习隐马尔可夫模型的计算复杂性,提出了一种交互式访问模型,证明该模型可以使学习算法计算效率更高,为两种不同的学习隐马尔可夫模型设置下算法,并扩展到具有潜在低秩结构的分布类别。
- 人工智能中的现实构建:一篇综述
本文介绍了一种由 Jean Piaget 启发的 AI 建构主义,描述和调查了 Frank Guerin,并由 Gary Drescher 作为代表性的实现来创建算法和知识结构,以通过感知动作交互使代理能够获得,维护和应用对环境的深入理解。 - 可学习的图卷积网络和特征融合用于多视角学习
本文提出了一种新的基于图卷积神经网络和特征融合的联合深度学习框架,该框架旨在从异构视角中学习潜在的特征表示,并探索可区分的图融合,通过 Learnable Graph Convolutional Network and Feature Fu - 容量有限认知及强化学习的速率失真理论
本文介绍了一种信息理论模型,它使用一个有限传输速率的通信通道作为决策代理行为的描述,并在此基础上研究了一种基于学习目标的容量有限的决策制定方法, 为实现高效的学习算法提供了贝叶斯遗憾界的保证。
- 顺序信息设计:在暗中学习说服
研究了在信息设计问题中,如何让一个自利的决策人在面对连续决策时遵循某些规则,并提出了相应的学习算法,该算法可以保证提示者和接收者在不同条件下的回报。