10.6 结构熵极小化原理
给定一个信息系统 𝐴,即 𝐴 是一个不可约非负矩阵,𝐴 实际上是一个复杂系统, 𝐴 的层谱抽象是对信息系统 𝐴 分析的基本模型与方法。
结构熵 ℋ(𝐴) 决定并解码出 𝐴 的一个编码树 𝑇∗,使得
𝑇∗ = 𝑎𝑟𝑔𝑚𝑖𝑛{ℋ𝑇(𝐴)},
即
ℋ𝑇∗
(𝐴) = min{ℋ
𝑇
𝑇(𝐴
)}.
结构熵 ℋ(𝐴) 的意义不在于 ℋ(𝐴) 这个值,而在于它决定并解码一个编码树 𝑇∗ 使得
ℋ𝑇∗(𝐴) = ℋ(𝐴),
即 𝑇∗ 是 𝐴 的一个层谱抽象策略,使得在该层谱抽象策略下,𝐴 的不确定性最小。
由于 𝑇∗ 是一个使 𝐴 的不确定性最小的层谱抽象策略,因此在策略 𝑇∗ 下,信息系统 𝐴 的功能最大化。
直观地说,𝑇∗ 有如下性质:
(1)信息系统 𝐴 的功能模块由 𝑇∗ 来决定;
(2)信息系统 𝐴 的知识与规律嵌入在 𝑇∗ 中;
(3) 𝑇∗ 提供了信息系统 𝐴 的知识推理的数学模型与数据结构。
因此,结构熵度量的实质是提供了一个解码信息系统的原理。结构熵有解码功能,而不仅仅是一个度量。