- 填补基础模型后门漏洞的泥浆加固技术
提出了 Mudjacking,这是第一个用于修补基础模型以去除后门的方法,通过梯度下降的方法解决了将基础模型修补为优化问题,在保持其功用的同时成功去除了后门。
- 由标签分布指导的上下文示例排序
通过优化问题,研究通过预训练语言模型的上下文学习中的示例排序,以提高文本分类的准确性和选择更好的上下文示例。
- AAAI基于平方神经族的精确、快速和表达强的泊松点过程
通过将强度函数的参数化为一个两层神经网络的平方范数,引入了平方神经泊松点过程(SNEPPPs)。我们的方法在固定隐藏层且第二层只有一个神经元的情况下,类似于以前使用平方高斯过程或核方法的方法,但允许学习隐藏层可以提供额外的灵活性。在许多感兴 - 利用全局非凸优化软件检查充分分散条件
本研究论文描述了一个关于矩阵分解问题的重要条件 —— 充分散布条件(SSC),并提出了一种非凸二次优化问题的方法来检验该条件,并应用于实际数据集和真实世界的高光谱图像。
- 有限和平凡导数光滑优化的复杂性研究
本文研究了一种优化问题,在多项式朗托泽维奇条件下,通过梯度方法在分布式环境中找到次优解,提出了一个去中心化一阶方法,并给出了相应的下界。
- KDD最短路径与最小斯坦纳树间的查询决策回归
对于一个具有未知权重的图,如果我们知道一些节点子集关联的最小 Steiner 树,那么我们能否找到一对节点的最短路径?本文研究了这样一个原型问题,称为具有任务转换的查询 - 决策回归,重点关注最短路径问题和最小 Steiner 树问题。我们 - 基于伴随法的基于数据驱动的 PDEs 发现
本研究提出一种基于伴随方法的优化问题,用于从数据中发现潜在的偏微分方程,通过考虑参数化的偏微分方程形式,并最小化 PDE 解与数据之间的误差来计算 PDE 参数的梯度。该方法通过变分计算获取了保正参数的演化方程,可以精确地还原真实的 PDE - 一致图的多视图图学习
基于共识正则化的多视图图形学习方法,通过学习共识图表征视图的共同结构,优于现有方法,并应用于推断多个受试者的功能性脑连接网络。
- 利用黎曼优化进行代数变种的注册
我们研究了点云配准问题,即在不同坐标系中表示同一物体的两个点云之间寻找变换的任务。我们的方法不基于点对点的对应,而是假设并利用了数据的低维非线性几何结构。首先,我们通过在 Grassmann 流形上求解优化问题,利用代数变量逼近每个点云。然 - 二层 ReLU 网络中的隐藏最小值
研究了拟合具有 $d$ 个输入、$k$ 个神经元和由目标网络生成的标签的两层 ReLU 网络的优化问题。通过研究隐藏极小值,发现了两类无穷族的最小值,每个 $d$ 和 $k$ 有一个最小值。第一类中的最小值的损失在 $d$ 增加时趋近于零, - 学习旅行推销员问题的拉格朗日乘子
应用图神经网络预测准确的 Lagrangian 乘子,作为生成 Held-Karp 松弛界限的初始值,并通过这种方法改进分支界定算法的过滤过程,从而加速优化证明的过程。
- 基于多资源交换的联邦学习激励机制
通过多用户协作计算框架,将联邦学习中的模型所有者和数据所有者分为两种角色,通过允许数据所有者将额外的本地计算任务转移到模型所有者来有效地促使其参与,从而实现高准确度且最小化联邦学习任务所需时间的目标
- 动量粒子极大似然
最大似然估计(MLE)的潜变量模型常常被重新设定为参数和概率分布的扩展空间上的优化问题。我们提出了一个受动力系统启发的方法,结合了 Nesterov 的加速梯度法、欠阻尼朗之万方程和粒子方法,使得该算法在连续时间中收敛到函数的唯一最小值。通 - AAAI关于决策聚焦学习的鲁棒性研究
Decision-Focused Learning(DFL)是一种新兴的学习范例,用于训练机器学习模型来预测不完整优化问题的缺失参数。DFL 通过集成预测和优化任务,在端到端系统中训练机器学习模型,从而更好地匹配训练和测试目标。然而,我们对 - EMNLP加速具有常数时间推理复杂度的 Toeplitz 神经网络
该研究论文介绍了如何通过将 Toeplitz 神经网络转换为状态空间模型,在推理过程中实现与状态空间模型一样的恒定推理复杂度,从而充分发挥两者的优势,并展示了在语言建模任务中的有效性和数值稳定性。
- 通过强化学习在动态投资组合优化中进行投资限制和非稳态的因果推断
使用强化学习技术,我们研究了一种动态资产配置投资策略,并解决了将金融时间序列数据的非平稳性纳入强化学习算法的关键问题,以提高预测精度。我们发现引入环境设置中的变量,如制度变化,对于增强预测准确性至关重要。此外,强化学习在投资策略中的应用具有 - 基于随机对偶平均的快速期望对数损失最小化
本文介绍了一种用于最小化预期对数损失的随机一阶算法,解决了凸优化问题中由于损失函数的缺乏 Lipschitz 连续性和平滑性而导致标准迭代复杂度保证不直接适用的问题,提出的算法取得了比现有方法更好的复杂度和性能。
- 利用人工智能实现基于分解的优化算法自动化:第一部分,学习何时进行分解
本文提出了一种基于图分类的方法,用于自动确定是使用整体式还是分解式的解决方案方法;通过适当的特征集,将优化问题表示为捕捉问题的变量和约束之间的结构和功能耦合的图;构建图分类器以确定给定问题的最佳解决方法;以解决分析凸混合整数非线性规划问题时 - 通过搜索平坦极小值的多任务合作学习
多任务学习 (MTL) 在医学图像分析中显示出巨大潜力,通过提高学到的特征的泛化能力和各项任务的性能。本研究将 MTL 作为一个多 / 双层优化问题,采用合作式的方式让特征从各任务中学习,以减轻优化过程中的负迁移问题。实验证明了该方法的有效 - 选择过去实验中的代理指标
在大量随机实验中,通过生成决策指南,我们引入了一种新的统计框架来定义并构建适用于同质人群的最佳代理度量标准,该度量标准能够与长期度量密切跟踪,并在噪声较高的情况下进行优化问题的解决。通过运用这种方法,我们在一个工业推荐系统的大量随机实验中应