如何生成相关的随机数（给定的均值，方差和相关度）？

53

很抱歉，这似乎太基本了，但是我想我只是想在这里确认了解。我觉得我必须分两步执行此操作，并且我已经开始尝试绘制相关矩阵，但是它似乎才真正开始涉及。我正在寻找一种简洁，合理的解释（理想情况下带有对伪代码解决方案的提示），这是一种生成相关随机数的理想方法。

给定两个具有已知均值和方差的伪随机变量height和weight以及给定的相关性，我认为我基本上是在试图理解第二步应该是什么样子：

   height = gaussianPdf(height.mean, height.variance)
   weight = gaussianPdf(correlated_mean(height.mean, correlation_coefficient), 
                        correlated_variance(height.variance, 
                        correlation_coefficient))

如何计算相关的均值和方差？但是我想确认这确实是相关的问题。
我需要诉诸矩阵操纵吗？还是我在解决此问题的基本方法上还有其他非常错误的地方？

— 约瑟夫·魏斯曼
source

1

不确定我是否正确理解您，但是您不必计算“相关均值和方差”。如果您假设变量是双变量正态的，则足以指定各个均值和方差以及相关性。您要为此使用任何特定的软件吗？

— mark999 2012年

3

以下Q是密切相关的并且将引起关注：如何定义一个分布，使从中得出的图与来自另一个预先指定的分布的图相关联？＆生成一个与现有变量具有定义相关性的随机变量。

— gung-恢复莫妮卡

1

另外：如何使用预先指定的相关矩阵生成数据？

— gung-恢复莫妮卡

44

要回答有关“生成相关随机数的一种理想的，理想的快速方法”的问题：给定所需的方差-协方差矩阵（定义为正定），则其Cholesky分解为： = ；是下三角矩阵。 $C$ $C$ $LL^T$ $L$

如果现在使用此矩阵投影不相关的随机变量向量，则得到的投影将是相关随机变量的投影。 $L$ $X$ $Y = LX$

您可以在这里找到简明的解释为什么会发生这种情况。

— usεr11852说恢复Monic
source

谢谢！这非常有帮助。我认为至少我对下一步需要有更好的了解。

— 约瑟夫·魏斯曼

7

该方法是否仅适用于高斯分布（如问题中所指定），或者可以用于生成遵循其他分布的相关变量？如果不是，您是否知道在这种情况下可以使用的方法？

— user000001 2013年

1

@迈克尔：是的。前面已经说过，给定

是有效的协方差矩阵，Cholesky分解是最快的方法。您还可以通过使用SVD 获得

的（对称）平方根

矩阵（所以

，其中

来自

），但这会更昂贵太。

C

$C$

X

$X$

C

$C$

C = X X = X X^{T}

$C = XX = XX^T$

X = U S^{0.5} V^{T}

$X = U S^{0.5} V^T$

C = U S V^{T}

$C = USV^T$

— usεr11852说恢复单胞菌

1

@迈克尔：当然。它们的协方差将是（大约）相同，而不是数字本身。

— usεr11852说恢复单胞菌

1

@Sid：整个实线上不支持的任何连续分发都将立即失败。例如，如果我们使用统一

，我们不能保证“相关的数字”将在

; 类似地，对于泊松，我们将得到非离散数。另外，任何分布的总和仍不是相同分布的分布（例如，将

分布求和不会导致

）也会失败。在上述所有情况下，产生的数字将根据

U [0, 1]

$U[0,1]$

[0, 1]

$[0,1]$

t

$t$

t

$t$

C

$C$ 但它们与我们开始的发行版不符。

— 恢复单胞菌usεr11852说，

36

+1到@ user11852和@ jem77bfp，这些都是不错的答案。让我从不同的角度来看待这个问题，不是因为我认为它在实践中一定更好，而是因为我有启发性。以下是我们已经知道的一些相关事实：

是回归线当两个斜率和是标准化的，即，， $r$ $X$ $Y$ $\mathcal N(0,1)$
是的方差可归因于的方差的比例， $r^2$ $Y$ $X$

（另请参见方差规则）：
随机变量乘以常数的方差是常数乘以原始方差的平方：
$Var [一种 X] = {一种}^{2} Var [X]$ $\text{Var}[aX]=a^2\text{Var}[X]$
方差相加，即两个随机变量之和（假设它们是独立的）是两个方差之和：
$Var [X + ε] = Var [X] + Var [ε]$ $\text{Var}[X+\varepsilon]=\text{Var}[X]+\text{Var}[\varepsilon]$

现在，我们可以结合这四个事实来创建两个标准正态变量，它们的总体将具有给定的相关性（更恰当地说是），尽管您生成的样本将具有变化的样本相关性。我们的想法是创建一个伪随机变量，，也就是标准正常，，和然后找到一个系数，和误差方差，，使得，其中 $r$ $\rho$ $X$ $\mathcal N(0,1)$ $a$ $v_e$ $Y \sim\mathcal N(0,a^2+v_e)$ 。（注意，必须等于才能起作用，而且。）因此，您从所需的开始；那就是你的系数。然后找出所需的误差方差，即。（如果软件要求您使用标准偏差，则取该值的平方根。）最后，对于生成的每个伪随机变量，生成一个伪随机误差变量 $a^2+v_e=1$ $|a|$ $\le 1$ $a=r$ $r$ $a$ $1-r^2$ $x_i$ $e_i$ 具有适当的误差方差，并通过相乘加法来计算相关的伪随机变量。 $v_e$ $y_i$

如果您想在R中执行此操作，则以下代码可能适用于您：

correlatedValue = function(x, r){
  r2 = r**2
  ve = 1-r2
  SD = sqrt(ve)
  e  = rnorm(length(x), mean=0, sd=SD)
  y  = r*x + e
  return(y)
}

set.seed(5)
x = rnorm(10000)
y = correlatedValue(x=x, r=.5)

cor(x,y)
[1] 0.4945964

（编辑：我忘了提及：）正如我已经描述的那样，此过程为您提供了两个标准的正态相关变量。如果您不希望使用标准法线，但是希望变量具有特定的均值（非0）和SD（非1），则可以对其进行变换而不会影响相关性。因此，您将减去观察到的均值以确保该均值正好为 $0$ ，将变量乘以所需的SD，然后加上所需的均值。如果您希望观察到的均值围绕所需均值正常波动，则可以将初始差值加回来。本质上，这是相反的Z分数转换。由于这是线性变换，因此变换后的变量将与其他变量具有相同的相关性。

同样，这只是最简单的形式，它只能让您生成一对相关变量（此变量可以放大，但很快就会变丑），并且肯定不是完成工作的最便捷方法。在R中，您可能想在MASS软件包中使用？mvrnorm，这既因为它更容易，又因为您可以使用给定的人口相关矩阵生成许多变量。尽管如此，我认为值得一遍，以简单的方式了解一些基本原理。

— gung-恢复莫妮卡
source

这种本质上回归的方法特别好，可以让它生成一个与任意数量的现有 X“预测变量” 相关的随机Y。我这样理解对吗？

— ttnphns

这取决于您想要的变量@ttnphns中到底是什么相关模式。您可以一次又一次地进行迭代，但这会很乏味。要使用给定的模式创建许多相关变量，最好使用Cholesky分解。

— gung-恢复莫妮卡

gung，您是否知道如何使用Cholesky根据与多个现有（未模拟）Xs 的相关矢量来生成一个与Y相关的Y（与您的方法类似）？

— ttnphns

@ttnphns，您要生成一个带有给定总体相关性且带有一组X的Y，而不是一组都具有预先指定的总体相关性的p变量吗？一种简单的方法是编写一个回归方程，以从您的X生成单个Y帽，然后使用上述方法生成Y作为您的Y帽的相关项。如果需要，您可以问一个新的问题。

— gung-恢复莫妮卡

1

这就是我在最初的评论中的意思：此方法将直接扩展您在回答中所说的内容：本质上是一种回归（Hat）方法。

— ttnphns

16

一般来说，这不是一个简单的事，但我相信有用于包装多元正态分布变量代（至少在R，看到mvrnorm在MASS包中），在那里你只需输入协方差矩阵和平均向量。

还有另一种“建设性”的方法。假设我们要对随机向量建模并得到其分布函数。第一步是获得边际分布函数。即整合在所有： $(X_1,X_2)$ $F(x_1,x_2)$ $F$ $x_2$ 随后，我们发现 -的反函数 -和插入的随机变量，其上的间隔均匀地分布。在此步骤中，我们产生第一坐标。

F_{X_{1}} (x_{1}) = \int_{- \infty}^{\infty} F (x_{1}, x_{2}) d x_{2} .

$F_{X_1}(x_1)= \int_{-\infty}^{\infty} F(x_1,x_2)dx_2.$

F_{X_{1}}^{- 1}

$F^{-1}_{X_1}$

F_{X_{1}}

$F_{X_1}$

ξ_{1}

$\xi_1$

[0, 1]

$[0,1]$

{\hat{x}}_{1} = F_{X_{1}}^{- 1} (ξ)

$\hat{x}_1=F^{-1}_{X_1}(\xi)$

现在，既然我们已经得到了一个坐标，我们需要将其插入到我们最初的分布函数，然后用获得条件的条件分布函数： $F(x_1,x_2)$ $x_1=\hat{x}_1$ 其中是边际的概率密度函数分布; 即。

F (x_{2} | X_{1} = {\hat{x}}_{1}) = \frac{F ({\hat{x}}_{1}, x_{2})}{f_{X_{1}} ({\hat{x}}_{1})},

$F(x_2 | X_1=\hat{x}_1)= \frac{F(\hat{x}_1,x_2)}{f_{X_1}(\hat{x}_1)},$

f_{X_{1}}

$f_{X_1}$

X_{1}

$X_1$

F_{X_{1}}^{'} (x_{1}) = f_{X_{1}} (x_{1})

$F'_{X_1}(x_1)=f_{X_1}(x_1)$

$\xi_2$ $[0,1]$ $\xi_1$ $F(x_2 | X_1=\hat{x}_1)$ $\hat{x}_2=(F(x_2 | X_1=\hat{x}_1))^{-1}(\xi)$ $\hat x_2$ $F(\hat x_2 | X_1=\hat{x}_1) = \xi$

如果您不了解将统一变量插入逆概率分布函数的含义，请尝试绘制单变量情况的草图，然后记住逆函数的几何解释是什么。

— jem77bfp
source

聪明的主意！具有简单直观的吸引力。但是，在计算上似乎是昂贵的。

— MichaelChirico

f_{X, Y} (x, y) = f_{X} (x) \cdot f_{Y | X} (y)

$f_{X,Y}(x,y)=f_X(x)\cdot f_{Y|X}(y)$

1

如果您准备放弃效率，则可以使用一次性算法。它的优点是，它允许任何种类的分布（不仅是高斯分布）。

$\{x_i\}_{i=1}^N$ $\{y_i\}_{i=1}^N$ $C$

$c_{old}=corr(\{x_i\},\{y_i\})$

$n_1$ $n_2: 1 \leq n_{1,2} \leq N$

$x_{n_1}$ $x_{n_2}$

$c_{new}=corr( \{x_i\},\{y_i\})$

$|C-c_{new}| < |C-c_{old}|$

$|C-c| < \epsilon$

${x_i}$

祝好运！

— 贾皮尔
source

x_{i}

$x_i$

c o r r (x_{i}, y_{i})

$corr(x_i, y_i)$

x_{i}

$x_i$

{x_{i}}

$\{x_i\}$

y

$y$

c o r r (x_{i}, y_{i})

$corr(x_i,y_i)$

c o r r ({x_{i}}, {y_{i}}) = (1 / N) Σ_{i = 1}^{N} (x_{i} - \bar{x}) (y_{y} - \bar{y})

$corr(\{x_i\},\{y_i\}) = (1/N) \Sigma_{i=1}^{N}(x_i- \bar x)(y_y - \bar y)$

{}

$\{ \}$

c o r r ({x_{i}}, {y_{i}})

$corr(\{x_i\}, \{y_i\})$