25 关联度量两个变量X和Y之间的线性关系（皮尔逊相关）或单调关系（斯皮尔曼相关）。 互信息更通用，可以测量观察X之后Y的不确定性降低。它是关节密度与各个密度乘积之间的KL距离。因此，MI可以测量非单调关系和其他更复杂的关系。 — 罗伯·海德曼 source 3 相关不一定是线性的-Spearman的rho依赖于单调函数，但是，我们将其称为“相关系数”，而不是“互信息系数”。有一个很好的理由：它提供了有关两个变量之间关联的信息。互信息，冗余信息，互方差，相关性-这些术语是如此相似，并且这个问题涉及网络重建，所以我想我们最终以正确的术语陷入了错误的领域。这是一个非常具体的问题…… — aL3xa 2010年 1 好点子。我已经编辑了答案，以包含单调关系。我对网络重建一无所知。 — 罗布·海恩德曼 Rob Hyndman）2010年