现实中独立且不相关的数据的示例，以及测量/检测它们的方法

我们总是听到有关此数据向量VS的另一数据向量彼此独立或不相关等信息的信息，尽管很容易就这两个概念进行数学讨论，但我想将它们结合为实际的示例生活，并找到衡量这种关系的方法。

从这个角度出发，我正在寻找具有以下组合的两个信号的示例：（我将从一些内容开始）：

独立且（必要）不相关的两个信号：
- 在讲话时，来自汽车发动机的噪声（称为）和声音（）。 $v_1[n]$ $v_2[n]$
- 记录每天的湿度（）和道琼斯指数（）。 $v_1[n]$ $v_2[n]$

Q1）您如何测量/证明它们与手中的两个向量无关？我们知道独立性意味着它们pdf的乘积等于它们的联合pdf，这很好，但是有了这两个向量，如何证明它们的独立性？

两个信号不是独立的，但是仍然不相关：

Q2）我在这里想不到任何示例...一些示例是什么？我知道我们可以通过对两个这样的向量进行互相关来测量相关性，但是我们如何证明它们也不是独立的呢？

两个相关的信号：
- 一种矢量，用于测量主厅歌剧院歌手的声音，而有人则在建筑物内某处（例如在排练室（））记录其声音。 $v_1[n]$ $v_2[n]$
- 如果您连续测量汽车中的心率（），并且还测量了撞击在后挡风玻璃上的蓝光的强度（ ...），我想这些可能是非常相关的。。:-) $v_1[n]$ $v_2[n]$

Q3）与q2有关，但是从此经验角度衡量互相关的情况下，查看这些矢量的点积是否足够（因为这是它们互相关的峰值）？为什么我们要关心交叉校正函数中的其他值？

再次感谢，给出更多的例子可以更好地建立直觉！

cross-correlation independence

— 太空的
source

@DilipSarwate谢谢Dilip，我来看看。就目前而言，一些示例将是不错的。

— Spacey 2012年

您不能以同样的理由“证明”他们是独立的，即使是结构良好的民意调查也不能“证明”每个人的投票方式。

— Jim Clay 2012年

@JimClay随意放宽“证明”标准-我试图了解的是衡量/量化独立性的方法。我们经常听到这样的话，那么独立，那么，他们怎么知道的？使用什么卷尺？

— Spacey 2012年

我想知道是否可以将Cros相关用于两个模拟信号，其中一个高分辨率，另一个用于低分辨率，以进行分析。

如果我们有一些随机变量X并构造2个信号a ** = （x）和** b ** = （x），其中和是正交的，并且** x = a + b $f_1$ $f_2$ $f_1$ $f_2$ 。这是否意味着这些信号是独立的？这是否需要一些其他条件？此属性将很有趣，因为它避免构造a和b的联合pdf 。

— Mladen

Answers:

一些要素...（我知道这并不详尽，更完整的答案可能应该提到片刻）

要检查两个分布是否独立，您需要测量它们的联合分布与它们的边际分布的乘积有多相似。为此，您可以使用分布之间的任何距离。如果使用Kullback-Leibler散度比较这些分布，则将考虑数量： $p(x,y)$ $p(x) \times p(y)$

$\int_x \int_y p(x, y) \log \frac{p(x, y)}{p(x) p(y)} dx dy$

您将已经认识到...相互信息！数值越低，变量越独立。

实际上，要根据观察结果计算该数量，可以使用核密度估计器从数据中估计密度，，并在精细网格上进行数值积分; 或仅将您的数据量化为 bin，然后使用“相互信息”的表达式进行离散分布。 $p(x)$ $p(y)$ $p(x, y)$ $N$

从Wikipedia页面上的统计独立性和相关性：

分布图

除最后一个示例外，这些2D分布具有不相关的（对角协方差矩阵），但没有独立的边际分布和。 $p(x, y)$ $p(x)$ $p(y)$

实际上，在某些情况下，您可能会查看互相关函数的所有值。它们出现在例如音频信号处理中。考虑两个麦克风捕获相同的信号源，但相距几米。这两个信号的互相关将在与麦克风之间的距离除以声速对应的滞后处具有一个峰值。如果仅查看滞后0处的互相关，您将不会看到一个信号是另一个信号的时移版本！

— 披巾
source

谢谢你。-1）请您详细介绍一下第一点-我真的很难理解如何从x [n]和y [n]这两个数据向量中得出他们的联合PDF。，

。我可以理解如何获取x [n]的直方图会给我X的pdf（（

），与Y相同），但是在给定两个矢量的情况下，一个地球人怎么想出一个联合呢？具体问-从观察到的样本中准确地映射PDF，这使我最困惑（续）

p (x, y)

$p(x,y)$

p(x}

$p(x}$

— Spacey 2012年

（续）2）总结一下：如果x和y的协方差矩阵是对角线，那么它们是不相关的，但不一定独立正确吗？测试独立性是跟进问题（1）的问题。但是，如果我们表明它们是独立的，那么它们的协方差矩阵当然就是对角线的。我明白吗？我可以在现实生活中测量的两个物理信号的示例是什么，这些信号将是相关但不相关的？再次感谢。

— Spacey 2012年

假设您有两个信号

和

表示为

元素的向量。例如，您可以使用内核密度估算器获得

估算值：

x_{n}

$x_n$

y_{n}

$y_n$

N

$N$

p (x, y)

$p(x, y)$

其中

是内核函数。或者，您可以使用与构建直方图相同的技术，但使用2D。建立一个矩形网格，计算有多少对

落入网格的每个像元，并使用

p^{*} (x, y) = \sum_{i} \frac{1}{N} K (x - x_{i}, y - y_{i})

$p^*(x, y) = \sum_i \frac{1}{N}K(x - x_i, y - y_i)$

K

$K$

(x_{n}, y_{n})

$(x_n, y_n)$

，其中N是信号的大小，

是与点

关联的像元中的元素数。

p^{*} (x, y) = \frac{C}{N}

$p^*(x, y) = \frac{C}{N}$

C

$C$

(x, y)

$(x, y)$

— pichenettes 2012年

“有两个物理信号是相关的，但不相关”：假设我们入侵了纽约出租车的GPS，以记录其位置的（经度，纬度）历史。经纬度很长。数据将不相关-点云没有特权的“方向”。但这几乎是独立的，因为如果要求您猜测驾驶室的纬度，那么如果您知道经度，就会提供更好的猜测（然后您可以查看地图并排除[纬度，长]被建筑物占据的对。

— pichenettes 2012年

另一个例子：两个正弦波以相同频率的整数倍波动。零相关（傅立叶基础是正交的）；但是，如果您知道一个值，那么只有另一个值可以取有限的一组值（想想李沙育图）。

— pichenettes 2012年

在没有任何先验知识/假设的情况下，很难推断两个信号是否独立。

如果的值不提供有关值的任何信息（即，不影响我们先前对概率分布），则两个随机变量和是独立的。这等效于和任何非线性变换都是不相关的，即 $X$ $Y$ $X$ $Y$ $Y$ $X$ $Y$ 对于任何非线性和假设wlog两个变量均具有零均值。独立性和不相关性之间的区别在于，如果满足上述条件，则和不相关，仅对于，即身份函数。

冠状病毒 （ F_{1个} （ X ） ， F_{2} （ ÿ ） ） = Ë （ F_{1个} （ X ） ， F_{2} （ ÿ ） ） = 0

$\text{cov}(f_1(X),f_2(Y)) = E(f_1(X),f_2(Y)) = 0$

f_{1}

$f_1$

f_{2}

$f_2$

X

$X$

Y

$Y$

f_{1} (x) = f_{2} (x) = x

$f_1(x) = f_2(x) = x$

如果我们假设联合高斯性，那么所有大于阶数2的联合矩都等于零，在这种情况下，不相关意味着独立。如果我们没有先验的假设，那么对联合力矩估计将为我们提供有关它们“如何相互依赖”的信息。 $E(X^iY^j)$

通过考虑所有频率上的互谱，可以将其概括为信号和。 $X(t)$ $Y(t)$

{小号}_{X ， ÿ} （ F ） ， {小号}_{X^{2} ， ÿ} （ F ） ， {小号}_{X ， ÿ^{2}} （ F ） \dots

$S_{X,Y}(f),S_{X^2,Y}(f),S_{X,Y^2}(f) \dots$

f

$f$

范例：

阅读了“小雕像”评论后，我受到启发，以他的想法为例。考虑的信号为和。显然，没有线性变换将发送到

X （ Ť ） = 罪 （ 2 π F Ť ）

$X(t) = \sin(2 \pi ft)$

ÿ （ Ť ） = 罪 （ 2 π F Ť ķ ）

$Y(t) = \sin( 2 \pi ftk)$

k \in Z

$k \in \mathbb{Z}$

k \neq 1

$k \neq 1$

X (t)

$X(t)$

Y (t)

$Y(t)$ 因为它们以不同的频率振荡。然而，众所周知的是，我们可以写

作为函数

，因此，

对于某些多项式

。

\sin (k x)

$\sin(kx)$

\sin (x)

$\sin(x)$

ÿ （ Ť ） = F （ X （ Ť ） ）

$Y(t) = f (X (t))$

f

$f$

因此，尽管是不相关的信号，但和不是独立的。 $X(t)$ $Y(t)$

— 罗沃尔斯特
source

X_{x^{2}, Y} (f)

$X_{x^2, Y}(f)$

X^{2} (t)

$X^2(t)$

Y (t)

$Y(t)$