Aug, 2022

基于线性规划的资源感知信息论树抽象方法

PDF
TL;DR提出了一个针对资源受限的自主代理人获取任务相关的多分辨率环境抽象的整数线性规划方案，该方案利用信息论信号压缩的概念，特别是信息瓶颈（IB）方法，在多分辨率树空间上将抽象问题作为最佳编码器搜索的一种方式。
multi-resolutionabstractionsautonomous agentsinformation-theoreticinteger linear programming
发现论文，激发创造
  • 一种面向分层决策系统专业化的信息论在线学习原理

    研究信息 - 理论有限理性的决策者组合问题，并提出了一种基于在线学习规则的问题空间的分区方案，旨在通过特定线性策略求解提高效率和减少成本。该模型适用于分类，回归，强化学习和自适应控制等领域。

    Jul, 2019

  • 信息论有界理性

    本文提出了基于信息理论思想的有限理性理论，并提供了将自由能量函数作为表征有限理性决策的目标函数的概念上的理据。该文讨论了单步决策以及如何使用等价变换将其扩展到序贯决策，扩展后得到的类别决策问题非常广泛，包括古典决策规则等极限情况以及可信和风险敏感规划。

    Dec, 2015

  • 信息处理能力有限决策者中的抽象化

    利用自由能决策框架与失真率理论建立决策与人工智能中抽象概念的关系与应用，得出由于信息处理能力的限制而引起的抽象现象。

    Dec, 2013

  • 一个基于信息论的框架，用于统一主动学习问题

    本文提出了一个信息理论框架，用于统一主动学习问题：水平集估计（LSE）、贝叶斯优化（BO）及其广义变体。首先介绍了一种新颖的主动学习标准，该标准包含了现有的 LSE 算法并在连续输入域的 LSE 问题中达到了最先进的性能。然后，通过利用 LSE 和 BO 之间的关系，我们设计了一个竞争性的信息理论获取函数，该函数具有与上置信上界和最大清洗熵搜索（MES）的有趣联系。我们的统一信息理论框架可以应用于以数据有效的方式解决 LSE 和 BO 的广义问题。最后，我们使用合成基准函数、真实世界数据集和超参数调整机器学习模型来实证评估我们的算法性能。

    Dec, 2020

  • TreeDQN：学习最小化分枝定界树

    本文介绍了一种基于强化学习的组合优化问题解决方法，使用树马尔可夫决策过程视角选择变量分支，并且优化学习对象，相较之前的强化学习方法，训练数据量更小，生成树的大小更小。

    Jun, 2023

  • 关于信息瓶颈问题：模型、连接、应用和信息论视角

    本文主要讨论信息瓶颈问题，包括如何解决它、与编码和学习方面的联系，以及其对分布式信息瓶颈问题和高斯模型的扩展。同时探讨其与自动编码器、表征学习、变分推断和通用重建等方面的紧密联系。

    Jan, 2020

  • 从数据中挖掘约束条件的整数线性规划框架

    本文提出了一种用于从数据中挖掘约束条件的一般框架，该框架以整数线性规划问题的形式考虑结构化输出预测中的推断，然后通过估计可行集的外部和内部多面体来挖掘底层约束条件，并在各种合成和现实应用中验证了所提出的约束挖掘算法。

    Jun, 2020

  • 信息瓶颈理论的法官

    本研究对信息瓶颈理论的应用进行了探讨，通过引入辅助函数和采取新的理论立场，解决了该理论在深度学习网络中的应用问题，并解释了 ReLU 激活下归零情形的信息瓶颈机制，从而提供了一种新的解读深度学习网络内部组织的方法。

    May, 2023

  • 自适应信息信念空间规划

    该研究旨在使用奖励函数来有效地做出明智的决策，通过提出抽象观测模型来降低计算成本并推导出期望信息论奖励函数的界限以及价值函数的界限，同时，提出了一种用于改善聚合方法的方法，实现了相同动作选择的计算时间减少。

    Jan, 2022

  • 基于整数规划的算法选择问题的最优决策树

    本文提出了基于整数规划的方法来构建用于算法选择问题的决策树，并使用 COIN-OR Branch & Cut solver 实现的线性规划算法进行了实验。实验结果表明，该方法具有很好的泛化性能且未过度拟合。

    Jul, 2019