- 离散贝叶斯优化的连续放松
通过连续松弛目标函数,我们提出了一种在贝叶斯优化中高效优化离散数据的方法,并证明了推理和优化是可计算的。我们特别考虑了少量观测和严格预算的优化领域,以优化昂贵的生物化学属性评估中的蛋白质序列。我们的方法具有两个优势:将问题在连续设置中处理, - 可微贝叶斯结构学习中的拓扑排序与保证无环约束
通过结合拓扑排序的知识,我们提出了一种用于限制生成图的无环性的替代方法,该方法可以降低推理复杂度,同时确保生成的图的结构是无环的,并在模拟和真实数据的实证实验中表现优于相关的基于贝叶斯评分的方法。
- 混合变分流用于离散变量
开发了一种不需要连续嵌入的离散分布的变分流,称为 MAD Mix,通过测量保持和离散可逆映射来生成离散目标的可靠逼近,并且比连续嵌入的流训练速度显著更快。
- 一次性神经带选择用于频谱恢复
本文提出一种新颖的 spectral recovery 方法 Neural Band Selection (NBS), 使用基于连续松弛的带选择过程,采用梯度下降进行高效的搜素,并利用基于带相关矩阵的逐步抑制方法,使其适用于选择任意数量的带 - 通过连续松弛进行算法监督的学习
本文提出了一种将算法组件集成到端到端可训练的神经网络体系结构中的方法,通过条件语句、循环和索引来松弛离散条件,获得连续可微的算法。结果表明,所提出的连续松弛模型可以应用于多种任务。
- ICML使用连续递归神经网络建模分层结构
本文提出 Continuous Recursive Neural Network (CRvNN) 作为递归神经网络(RvNN)的可替换方案,以解决传统 RvNN 在处理序列中诱导潜在结构方面的局限性,并通过在潜在结构中引入连续松弛来改进该方 - 从树到连续嵌入再回归:双曲线分层聚类
该研究提出了一种名为 HypHC 的方法,将传统的基于启发式算法的相似性层次聚类问题转化为一个离散优化问题,并通过连续松弛技术获得全局最优解,该方法通过超蜂窝嵌入实现了离散树到连续表示的映射,并采用解码算法通过叶节点嵌入到树状图的映射,实现 - ICMLSoftSort: argsort 运算符的连续弛豫
本研究提出了一种简单的连续松弛方法来克服 argsort 算子在基于梯度的学习中出现的问题,该方法具有较高的计算性能,并能实现最新的性能水平,为了证明其正确性,本文开源了代码来重现所有实验和结果。
- ACL可微分的计划采样用于信用分配
通过对序列到序列模型进行不断松弛极值操作,结合 Bengio 等人的 sample scheduled 采用新的连续可微方法,获得可为贴在所有点求导的梯度,从而在命名实体识别、机器翻译等任务中优于交叉熵训练与 sample schedule - NIPSREBAR: 离散潜变量模型低方差、无偏梯度估计
本文通过将控制变量与连续松弛相结合的方式来降低离散潜在变量的高方差梯度估计,并引入了一种在线调整松弛度的修改方法,实现了最先进的方差降低并加速了生成建模任务中的收敛。
- NIPS平衡 $k$-Cut 问题的紧凑连续松弛
本文提出了一种紧密的连续松弛方法用于解决图的平衡 k 切问题,以优化标准的归一化切,通过求解难以优化的比例和问题,进一步优化算法表现,实验比较证明该方法胜过现有的全部方法。
- 比率割聚类的最速下降算法收敛性
本研究提出了一种显式 - 隐式梯度流算法来解决松弛比率切问题,该算法通过实验证明了其在处理高维数据集,特别是两个月亮数据集中极具效率。
- 具背包约束的单调和非单调次模最大化的近似算法
本文讨论了带有 $d$ 背包限制的任意模子模函数最大化问题,建立了离散问题和连续松弛之间的强联系,并利用这种联系提出了近似算法和确定性技术,得到了很好的解决方案。
- 子模函数:扩展、分布和算法。一份调查
本文介绍了子模函数的连续松弛及其在优化问题中的应用,同时提出了一种基于对称子模函数的基数约束下,最小化函数的常系数逼近算法。