Box-Muller与逆CDF方法相比在模拟正态分布方面的优势？

为了从一组均匀变量中模拟正态分布，有几种技术：

Box-Muller算法，其中一个对上的两个独立均匀变量进行采样，然后通过以下方法将它们转换为两个独立的标准正态分布： $(0,1)$
$Z_{0} = \sqrt{- 2 ln U_{1}} cos (2 π U_{0}) Z_{1} = \sqrt{- 2 ln U_{1}} sin (2 π U_{0})$ $Z_0 = \sqrt{-2\text{ln}U_1}\text{cos}(2\pi U_0)\\ Z_1 = \sqrt{-2\text{ln}U_1}\text{sin}(2\pi U_0)$
CDF方法，其中可以将普通cdf等同于一个统一变量：并得出 $(F(Z))$
$F （ ž ） = ü$ $F(Z) = U$ $ž = F^{- 1} （ ü ）$ $Z = F^{-1}(U)$

我的问题是：哪个计算效率更高？我认为这是后者的方法-但是我阅读的大多数论文都使用Box-Muller-为什么？

附加信息：

正常CDF的逆是已知的，并给出：

F^{- 1} (Z) = \sqrt{2} \erf^{- 1} (2 Z - 1), Z \in (0, 1) .

$F^{-1}(Z)\; =\; \sqrt2\;\operatorname{erf}^{-1}(2Z - 1), \quad Z\in(0,1).$

因此：

Z = F^{- 1} (U) = \sqrt{2} \erf^{- 1} (2 U - 1), U \in (0, 1) .

$Z = F^{-1}(U)\; =\; \sqrt2\;\operatorname{erf}^{-1}(2U - 1), \quad U\in(0,1).$

normal-distribution simulation uniform

— 用户名
source

普通CDF的逆函数是什么？仅当使用分段线性函数近似原始CDF时，才能进行解析计算。

— Artem Sobolev 2015年

两者不是密切相关吗？我认为Box Muller是2变量生成的一个特例。

— ttnphns

嗨，Barmaley，我在上面添加了更多信息。逆CDF有一个表达式-但是

必须通过计算来计算-因此，这也许就是为什么最好使用Box Muller的原因？我假设

将在查找表中计算，非常类似于

和

？因此，计算量还不那么贵吗？我可能是错的。

{erf}^{- 1}

$\text{erf}^{-1}$

{erf}^{1}

$\text{erf}^1$

sin

$\text{sin}$

cosine

$\text{cosine}$

— user2350366 2015年

有没有罪和余弦的Box-Muller版本。

— 西安

@Dilip对于非常低精度的应用程序，例如计算机图形学，正弦和余弦的确可以通过使用合适的查找表进行优化。但是，对于统计应用程序，永远不会使用这种优化。最终，计算

并不比

或

真正困难，但是在现代计算系统上，与

相关的基本函数-包括trig函数-倾向于被优化（

和

是Intel的基本指令） 8087芯片！），而erf不可用或已被编码为较高（较慢）的级别。

{erf}^{- 1}

$\text{erf}^{-1}$

\log

$\log$

sqrt

$\text{sqrt}$

\exp

$\exp$

\cos

$\cos$

\log

$\log$

— ub

从纯粹的概率角度来看，这两种方法都是正确的，因此是等效的。从算法角度来看，比较必须同时考虑精度和计算成本。

Box-Muller依靠统一发电机，成本与该统一发电机大致相同。正如我的评论中所提到的，如果没有对数，您就可以不用正弦或余弦调用而逃脱：

生成，直到 $U_{1}, U_{2} \overset{iid}{\sim} U (- 1, 1)$ $U_1,U_2\stackrel{\text{iid}}{\sim}\mathcal{U}(-1,1)$ $S=U_1^2+U_2^2\le 1$
取并定义 $Z=\sqrt{-2\log(S)/S}$ $X_{1} = Z U_{1}, X_{2} = Z U_{2}$ $X_1=ZU_1\,,\ X_2=Z U_2$

通用的反演算法要求调用反正态cdf，例如qnorm(runif(N))在R中，这可能比上述方法更昂贵，更重要的是，在精度方面可能会失败，除非分位数函数的编码正确。

遵循whuber的评论，在执行时，rnorm(N)和的比较都有qnorm(runif(N))利于cdf的倒数：

> system.time(qnorm(runif(10^8)))
sutilisateur     système      écoulé
 10.137           0.120      10.251 
> system.time(rnorm(10^8))
utilisateur     système      écoulé
 13.417           0.060      13.472` `

并且在合身方面： enter image description here

在Radford Neal在我的博客上发表评论之后，我想指出rnormR 中的默认值使用了反转方法，因此，上述比较反映在接口上，而不是模拟方法本身！引用有关RNG的R文档：

‘normal.kind’ can be ‘"Kinderman-Ramage"’, ‘"Buggy
 Kinderman-Ramage"’ (not for ‘set.seed’), ‘"Ahrens-Dieter"’,
 ‘"Box-Muller"’, ‘"Inversion"’ (the default), or ‘"user-supplied"’.
 (For inversion, see the reference in ‘qnorm’.)  The
 Kinderman-Ramage generator used in versions prior to 1.7.1 (now
 called ‘"Buggy"’) had several approximation errors and should only
 be used for reproduction of old results.  The ‘"Box-Muller"’
 generator is stateful as pairs of normals are generated and
 returned sequentially.  The state is reset whenever it is selected
 (even if it is the current normal generator) and when ‘kind’ is
 changed.

— 西安
source

\log

$\log$

\sqrt{}

$\sqrt{}$

Φ^{- 1}

$\Phi^{-1}$

Φ^{- 1}

$\Phi^{-1}$

X_{1}

$X_1$

X_{2}

$X_2$

U_{i}

$U_i$

- 1

$-1$

1

$1$

0

$0$

1

$1$

R 3.0.2rowSums

S

$S$ qnorm(runif(N))InverseCDF[NormalDistribution[], #] &

我同意，qnorm(runif(N))甚至比rnorm(N)

— 西安

Φ^{- 1}

$\Phi^{-1}$

\sin

$\sin$

\cos

$\cos$

为了进行比较，使用i7-3740QM @ 2.7Ghz和R 3.12，进行以下调用：

RNGkind(kind = NULL, normal.kind = 'Inversion');At <- microbenchmark(A <- rnorm(1e5, 0, 1), times = 100L);RNGkind(kind = NULL, normal.kind = 'Box-Muller');Bt <- microbenchmark(B <- rnorm(1e5, 0, 1), times = 100L)

我得到mean 11.38363 median 11.18718了反转和mean 13.00401 median 12.48802Box-Muller的数据

— Avraham 2015年