10.17 解码信息原理
结构熵的定义已经揭示了结构熵极小化是解码信息的原理。
定义 10.29（解码信息原理）给定信息系统 𝐴，即 𝐴 是一个不可
约非负矩阵，解码信息系统 𝐴 的原理是找 𝐴 的编码树 𝑇 使得在编码树 𝑇 下 𝐴 的结构熵极小，即：𝑇∗ = 𝑎𝑟𝑔𝑚𝑖𝑛{ℋ𝑇(𝐴 )}。
一般地，对于给定信息系统 𝐴，假设 𝒟 是信息系统 𝐴 的解码策略的一个集合，解码原理是选择解码策略𝐷 ∈ 𝒟，使得在策略 𝐷下信息系统 𝐴 的不确定性最小，即：
𝐷∗ = 𝑎𝑟𝑔𝑚𝑖𝑛{ℋ𝐷(𝐴 )},
这里 ℋ𝐷(𝐴 ) 是信息系统 𝐴 在策略 𝐷 下的不确定性的量，即 𝐴
在 𝐷 下的熵。
因此，熵极小是解码原理，即找解码策略使得在该解码策略下信息系统的熵极小。
解码原理和生成原理刚好相反，解码原理是熵极小，而生成原理是熵极大。但是这两个原理不矛盾，解码原理针对解码策略，即消除不确定性的策略，生成原理针对生成策略，即生成不确定性的策略。
解码策略就是在研究过程中做课题，生成策略就是找课题，做课 题的策略是问题越少越好，找课题的原则是问题或课题越多越好。所 以解码原理和生成原理尽管原理相反，但并不矛盾。因为，是针对两 种不同类型的策略的原理。这实际上正好反映了现实世界的基本规律。