Dec, 2014

输入输出过程的计算机力学：结构转换和 ε- 转换器

PDF
TL;DR本文介绍了一种新的计算力学方法来对通信渠道进行结构分析，得出了最佳模型 $\epsilon$-transducer，为研究中的联合过程和输入过程提供了原则性的结构分析。
发现论文，激发创造
  • 计算力学：模式与预测，结构与简约

    本文探讨计算力学的方法来定义复杂的结构，并给出了发现因果状态的方法。本文论述了因果状态表示 - epsilon 机是一致准确预测的最小表示之一，并与其他表示进行比较。此外文章将 epsilon 机和符合人类直觉或信息理论中的随机性和结构复杂性测量进行了比较。

    Jul, 1999

  • 状态空间系统作为动态生成模型

    一种基于概率的框架，用于研究确定性离散时间状态空间系统在输入和输出过程之间引入的依赖结构；在满足一定的条件下，这种系统成为两个序列空间之间的概率依赖关系的生成模型，且使用 Wasserstein 度量时，确保输出连续依赖于输入；通过该方法可以证明输出过程在某种特定意义上是因果的，并且推广了纯确定性情况下研究的输出过程。

    Apr, 2024

  • 离散通道的强数据处理不等式和 $Φ$-Sobolev 不等式

    本文系统研究了离散通道中 SDPIs 的最优常数，包括它们的变分表征、上下界、产品概率空间上的通道结构结果以及 SDPIs 与所谓的 $\Phi$-Sobolev 不等式之间的关系，并讨论了对信息论、离散概率和统计物理的几个应用。

    Nov, 2014

  • 输入受限信道中的信息耗散

    研究信息论中输入成本约束下的数据处理不等式，并提出一种量化信息耗散程度的 Dobrushin 曲线来评估噪声通道的耗散情况，并讨论了该理论在随机控制、噪声电路和噪声信道最大化的应用。

    May, 2014

  • 结构还是噪声？

    以速率失真理论为基础，提出一种自动理论构建的机制，其通过自然地区分规律性和随机性来实现。该方法基于一个简单的原则，即模型变量在尽可能保持未来和过去条件独立的前提下，进行构建。这种构建方式可以使任何一个过程的固有组织结构被准确地提取出来，并以最小的代价获得最佳的预测性能。此外，本文还提出了通过分析过程的因果压缩性能够提高理论构建的经验方法。

    Aug, 2007

  • 结构保持神经网络

    利用前馈神经网络和热力学第一和第二定律，通过从数据中学习物理系统的方法，以及使用所谓的非平衡可逆耦合通用方程 (GENERIC) 的度规辛结构，可以最小化地使用数据。该方法不需要强制任何平衡方程式，因此不需要关于系统性质的任何先前知识。能量守恒和熵耗散是该方法结构的自然副产品。展示了该方法的性能示例，包括守恒和耗散系统以及离散和连续系统。

    Apr, 2020

  • 介观尺度机器学习：计算 - 消散瓶颈

    在物理系统中信息处理的成本需要在性能和能量消耗之间做出平衡。我们在介观系统中制定和研究了计算 - 耗散瓶颈，并使用实验和人工合成任务展示了非平衡如何促进性能。我们的框架揭示了信息压缩、输入 - 输出计算和非可逆相互作用引起的动态不可逆性之间的重要权衡。

    Jul, 2023

  • 决策的排序模型：学习、优化、复杂性和计算

    研究智能系统以经济合理性解释其行为，其中包括涉及函数或效用的优化原则，最近这一理论已将约束纳入进来，即在满足某些信息处理约束的同时最大化效用。研究智能系统已从热力学工具中受益，本篇论文的目标是澄清这些结果在研究智能系统中的适用性，并改善对排序结构的分类和对能够允许这样的框架的要求的理解。

    Jun, 2024

  • 基于稀疏回归储备计算机的动态金融过程识别

    使用结构矩阵逼近方法对动态金融过程进行回归表示，并介绍了相关算法，应用于金融和经济过程的近似识别和预测模拟。

    Oct, 2023

  • 通道和贝叶斯网络的强数据处理不等式

    本文研究了数据处理不等式及其在信息论等领域中的应用，提出了一种针对贝叶斯网络的端到端强数据处理不等式构造方法，并探讨了基于线性强数据处理不等式而非耗散不等式的信息扩散方式。

    Aug, 2015