互信息增益值可以大于1吗


11

我有一个非常基本的疑问。对不起,如果这激怒了很少。我知道相互信息值应大于0,但应小于1吗?它是否受任何上限限制?

谢谢,阿米特。

Answers:


18

是的,它确实有上限,但没有上限。

当两方(统计上)共享一位信息时,相互信息(以位为单位)为1。但是,它们可以共享任意大数据。特别是,如果它们共享2位,则为2。

互信息是从上方界定概率分布的信息熵的单方,即一世Xÿ[HXHÿ]


如果两个方是二元变量,即每个方仅具有两个可能的结果{0,1},则当P X = 0.5P Y 时,熵H X H Y 最大值为1= 0.5。因此,两个二进制变量的最大互信息为1XÿHXHÿ1个PX=0.5Pÿ=0.51个
AkseliPalén19年
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.