- 拜占庭可靠的八卦:来自双重方法的洞察
该论文研究了在分布式环境中存在恶意节点攻击时,通过设计鲁棒的去中心化优化方法,利用全局和局部的剪裁规则来解决广义共识问题,并且证明了这些剪裁规则可以作为设计高效攻击的基础。
- 规则化的高斯牛顿方法优化超参数化神经网络
研究了使用广义高斯 - 牛顿优化方法优化具有显式正则化的双层神经网络,通过考虑常用目标函数中惩罚项的光滑近似来提供自适应学习率选择技术,数值实验结果突出了广义自共轭正则化对优化后的神经网络泛化性能的改善方面。
- 内外优化的上下文学习状态向量
通过对压缩向量进行细致分析并引入状态向量的概念,我们提出了内部和动量优化方法,并通过模拟状态向量聚合和分割以在多示例情况下进行更好的优化,实验证明这些优化方法有效地提升了状态向量,并在各种任务中取得了最先进的性能。
- 多指机械手在杂乱环境中的抓取通过手 - 物体接触语义映射
将优化方法与生成模型相结合,我们开发了一个新颖的方法来在杂乱的环境中生成五指抓取样本,并通过评估模型改进了抓取质量和碰撞概率,显著提高了在复杂情境中进行五指抓取的实用性。
- 合成数据的实例级安全感知逼真度及其校准
通过模拟和校准合成数据的逼真度,可以为安全可靠的自动驾驶技术的未来塑造提供一种经济实惠且可扩展的替代方案,从而避免实际数据采集的高成本。我们着重关注其在安全关键应用中的作用,引入四种超越单纯视觉输入特性的实例级逼真度。我们提出了一种优化方法 - 演化算法优化使用通用门的有限状态机的综合
本研究提出了一种有限状态机的综合优化方法,重点在于减少芯片面积和电路成本。通过使用笛卡尔遗传编程方法进化 MCNC91 基准电路中的一组有限状态机,平均减少约 30%的门数量。论文还讨论了一些参数对进化过程的影响。
- 权重规范控制
解耦权重衰减规则是权重范数控制的一种特例,任何使用解耦权重衰减规则(如 AdamW)的优化方法都可以看作是具有权重范数控制的更一般算法的一种特例。我们认为将目标权重范数设为 0 可能不是最优的,可以考虑其他目标范数值。例如,任何 AdamW - 一个系数让 SVRG 生效
通过引入一个乘法系数来控制 Stochastic Variance Reduced Gradient(SVRG)的强度,并通过线性衰减调整该系数,我们展示了 SVRG 优化神经网络的潜力,并发现对于更深的网络,SVRG 的减弱方差的项的强度 - 优化异构能源存储系统的可解释深度强化学习
能源储存系统是能源市场中至关重要的组成部分,本研究提出了一种异质光伏 - 能源储存系统,利用了电池能量存储和氢能存储的特性,通过开发全面的成本函数和基于人为设计的原型网络,实现了透明的调度策略并取得了令人满意的效果。
- 光子学中的实验性量子自然梯度优化
利用全程可编程的光子芯片首次在光子学中实验估计量子自然梯度(QNG),获得了 He-H$^+$ 阳离子的解离曲线并实现了化学精度,验证了 QNG 优化在光子学设备上的超越性,为利用 QNG 在光子学中实现实用的短期量子应用打开了新的视野。
- 一种基于 DRL 的用于 RIS 辅助多接收机通信的反射增强方法
本研究通过引入一种新颖的深度强化学习(DRL)优化方法,针对双反射场景中重叠剖面不一致导致的远场性能退化问题展开研究。与随机和穷举搜索方法进行对比实验,结果表明我们提出的 DRL 方法不仅在优化时间上表现出色,而且获得了 1.2 dB 的反 - 通过计算设计提高人机协作能力
设计人 - 机器人合作的共享空间是重要的,本文以厨房设计为例,提出了一种优化方法,使得机器人的放置能够满足厨房设计规则并提高人 - 机器人合作效果。
- ICLRM-L2O:面向可泛化的学习优化 —— 通过测试时间的快速自适应
该论文研究了学习优化(L2O)在新领域中的迁移性问题,并提出了一种元训练的 L2O 优化器解决方案,可以快速适应新任务。在经典任务上的实验证明了该方案的可行性。
- 用神经描述符场进行 SE(3)等变关系重排
本文提出了一种基于点云观测数据,实现元素实例任意姿态下空间关系任务的方法,该方法通过三个步骤解决了元素重排列问题:指定本地协调对象部件的一致坐标系;在新的对象实例上确定该坐标系的位置和方向;实施调整坐标系以达到所需呈现的目的。关键技术难题得 - ICLR面向硬件加速器构建的数据驱动离线优化
本文提出了一种数据驱动的离线优化方法 PRIME 来设计适用于单个和多个应用的加速器,并通过学习保守、稳健的成本函数来优化设计,从而提高了性能,并大大减少了所需的总模拟时间。
- 图像反问题的深度平衡结构
这篇文章提出了一种基于 Deep Equilibrium Models 的方案,通过无限循环的迭代,不断提高图像逆问题的重建精度,同时在测试时可以根据不同场景的需求选择不同的计算预算以优化精度和计算的权衡。
- 通过 K-Arm 优化进行深度神经网络的后门扫描
本研究提出了一种基于多臂赌博策略的 K-Arm 优化方法来检测深度学习系统中的后门攻击,并成功在超过 4000 个模型上取得了领先的性能。
- 通过准确度与不确定性优化来改善模型校准
优化深度神经网络中的不确定性估计是安全关键应用中的一个重要问题。本文提出了利用准确度与不确定性之间的关系进行优化的方法,通过可微的 loss 函数来实现模型的不确定性校准,结果显示比现有的方法在大规模图像分类任务中表现的更好
- KDD突破莫拉维克悖论:智能时尚零售的基于视觉的分销
本研究介绍了使用人工智能和优化方法结合的方式来分配时尚产品,利用深度学习模型识别产品的视觉形象,通过优化模型来决定每个商店的产品组合,以解决高品种、低容量时尚产品分配的挑战。
- 重新审视少样本 BERT 微调
本文研究了 BERT 上下文表示的微调,重点关注少样本场景中常见的不稳定性,我们确定了引起这种不稳定性的几个因素,包括使用非标准优化方法、BERT 网络的显著部分在下游任务中的有限适用性以及使用预先确定的训练迭代次数的普遍做法。在这些观察的