数据流熵计算

问题描述

我正在寻找一种方法来计算流数据的香农信息熵估计 H'(X)。随机变量 X 的状态空间很大,其中数千个计算将并行运行,因此将每个 X 观测值与相应的计数器存储在内存中是不可行的,因此无法使用常规计算公式。

据我所知,互联网上没有这种算法的实现。我所能找到的只是几篇包含大量数学内容(可能还有一些伪代码)的论文,我要么无法从实际的角度解读这些内容,要么算法无法用于一般目的(例如要求流大小为知道) - 示例:[1]。

是否有任何可用的实现/可用算法或 Python 库用于我无法找到的数据流的熵估计计算?或者是否有另一种方法可以以内存友好的方式检索熵估计?提前致谢。

[1] LALL A. 等。 用于估计网络流量熵的数据流算法。 2006. [在线]。可在:https://www.cc.gatech.edu/~jx/reprints/Sigm06_entropy.pdf

解决方法

暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!

如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@)