本文提出了一种新的熵度量学方法 —— 神经网络熵（NNetEn），它能够有效应用于实际环境下带有噪音信号的测量，本文的研究主要围绕着 NNetEn 的计算方法及其在时间序列、噪声和常数偏差方面的表现进行了分析。

Feb, 2022

本文提出了一种基于变分量子算法的方法，用于准确估计量子系统中冯・诺伊曼熵和 Rényi 熵等熵量测度，此方法首先利用量子电路和经典神经网络对熵量测度的变分公式进行参数化，然后通过参数空间优化目标函数以实现熵量测度的估计。

Jul, 2023

本研究提出了一个计算效率高的机器学习模型，利用静息 - 状态脑电图（rs-EEG）在物联网环境下对帕金森病进行诊断和监测。研究结果显示，使用模糊熵能够最准确地诊断和监测帕金森病。同时，在信号频率范围和脑电图通道的不同组合下，能够准确诊断帕金森病。通过减少特征数量，作者最高达到了 99.9% 的分类准确率。研究结果还发现，脑电信号中的低频成分（0-4 Hz）对分类准确率起到关键作用。此外，作者还评估了不同长度的脑电图数据对帕金森病诊断的准确率，结果表明减少输入数据可以降低计算复杂度。因此，可以在物联网环境中使用性能较低的智能机器学习传感器，从而增强人类对帕金森病的抵抗力。

Aug, 2023

通过实验证明，熵攻击可以增加传输开销高达 95%，提出一个新的防御机制，可以将受攻击输入的传输开销减少约 9%，只有约 2% 的准确度损失，并提出该防御机制可以与对抗训练等方法结合使用以进一步提高鲁棒性。

Mar, 2024

通过引入基于熵的损失项，我们提出了一种新的方法来加强神经网络学习丰富的潜在数据表示，在更少的维度上收敛于更好的测试指标，并在图像压缩和图像分类的实验中展示了其有效性。

Aug, 2023

该研究利用感知器神经网络构建了基于生物启发的混沌传感器，在计算神经科学领域具有一定应用价值。

Jun, 2023

提出了一种新的方法，通过建立模型分析两个阻性耦合脉冲振荡器电路的动力学，使用模糊熵（FuzzyEn）来计算锁相间隔期间脉冲周期数量的比率（次谐波比，SHR）组成的时间序列，低熵值表示强同步，而高熵值则暗示两个振荡器之间的弱同步。这种方法有效地可视化电路的同步模式，利用同步状态的熵图。此外，还提出了一种基于 SHR 时间序列嵌入向量长度对 FuzzyEn 的依赖关系的同步状态分类方法。通过使用大鼠海马局部场电位的相位 - 相位耦合节律的实例，展示了这种方法用于分析非弛豫（非尖峰）型信号的扩展。利用有理分数和脉冲信号形态的熵统计方法，使得该方法在分析生物信号同步和在移动数字平台上实现算法方面具有良好的前景。

Jun, 2024

通过使用代数拓扑工具，通过计算拓扑熵来量化卷积神经网络（CNN）中单个单位的状态，并且已经证明特征熵对于不同网络中的单元给出了准确的状态指示，并可以通过仅研究训练数据上的特征熵来鉴别具有不同泛化能力的网络。

Mar, 2021

研究通过应用混沌理论和动力系统理论，采用基于 Transformer 的序列预测架构，分析了 32 个脑电图通道上的数据，并展现了其在 EEG 数据序列预测方面的强大可靠性和普适性。

Oct, 2023

给定神经网络的初始条件，通过在参数空间中重建输入从相邻激活层到单层辅助网络的级联来预测深层前馈神经网络的可训练区域，从而显著降低整体训练时间，并确定信息流动与深度神经网络的可训练性之间的具体联系。

Jun, 2024