Questions tagged «estimators»

假设是iid随机变量，它们遵循均值的泊松分布。如何证明没有数量的无偏估计量？ λ 1X0,X1,…,XnX0,X1,…,Xn X_{0},X_{1},\ldots,X_{n} λλ \lambda 1λ1λ \dfrac{1}{\lambda}

13 probability  poisson-distribution  unbiased-estimator  estimators  iid 

彼此暗示吗？如果不是，是否意味着另一个？为什么/为什么不呢？ 这个问题是针对我在此处发布的答案的评论而提出的。 尽管google搜索相关术语并没有产生看起来特别有用的东西，但我确实注意到了数学stackexchange 的答案。但是，我认为这个问题也适用于该网站。 阅读评论后进行编辑 相对于math.stackexchange答案，我正在做更深入的研究，涵盖了@whuber注释线程中处理的一些问题。另外，正如我所看到的，math.stackexchange问​​题表明一致性并不意味着渐近地无偏见，但是对于原因却没有太多解释。那里的OP还理所当然地认为渐近无偏并不意味着一致性，因此到目前为止，唯一的回答者并没有解决为什么这样做。

12 mathematical-statistics  bias  unbiased-estimator  estimators  consistency 

我试图理解为什么OLS会给出AR（1）进程的有偏估计量。考虑 在此模型中，违反了严格的外生性，即和是相关的，而和是不相关的。但是，如果这是真的，那么为什么以下简单推导不成立？ ý吨ε吨ý吨-1ε吨头激动 βytϵt=α+βyt−1+ϵt,∼iidN(0,1).yt=α+βyt−1+ϵt,ϵt∼iidN(0,1). \begin{aligned} y_{t} &= \alpha + \beta y_{t-1} + \epsilon_{t}, \\ \epsilon_{t} &\stackrel{iid}{\sim} N(0,1). \end{aligned} ytyty_tϵtϵt\epsilon_tyt−1yt−1y_{t-1}ϵtϵt\epsilon_tplim β^=Cov(yt,yt−1)Var(yt−1)=Cov(α+βyt−1+ϵt,yt−1)Var(yt−1)=β+Cov(ϵt,yt−1)Var(yt−1)=β.plim β^=Cov(yt,yt−1)Var(yt−1)=Cov(α+βyt−1+ϵt,yt−1)Var(yt−1)=β+Cov(ϵt,yt−1)Var(yt−1)=β. \begin{aligned} \text{plim} \ \hat{\beta} &= \frac{\text{Cov}(y_{t},y_{t-1})}{\text{Var}(y_{t-1})} \\ &=\frac{\text{Cov}(\alpha + \beta y_{t-1}+\epsilon_{t}, y_{t-1})}{\text{Var}(y_{t-1})} \\ &= \beta+ \frac{\text{Cov}(\epsilon_{t}, y_{t-1})}{\text{Var}(y_{t-1})} \\ &=\beta. \end{aligned}

11 time-series  least-squares  bias  autoregressive  estimators 

我对估算器和估算值的理解是：估算器：计算估算值的规则估算：根据估算器从一组数据中计算出的值 在这两个术语之间，如果要求我指出随机变量，我会说估计是随机变量，因为它的值将根据数据集中的样本随机变化。但是我得到的答案是，估计量是随机变量，估计量不是随机变量。这是为什么 ？

10 mathematical-statistics  inference  random-variable  estimators 

假设是一个无偏估计。然后，当然是。 θë[ θ |θ]=θθ^θ^\hat{\theta}θθ\thetaE[θ^∣θ]=θE[θ^∣θ]=θ\mathbb{E}[\hat{\theta} \mid \theta] = \theta 一个人如何向外行人解释呢？过去，我所说的是，如果对一堆求平均值，则随着样本数量的增加，您会更好地逼近。 θθ^θ^\hat{\theta}θθ\theta 对我来说，这是有问题的。我认为我在这里实际描述的是这种渐近无偏的现象，而不是单纯地无偏的现象，即 其中\ hat {\ theta}可能取决于n。limn→∞E[θ^∣θ]=θ,limn→∞E[θ^∣θ]=θ,\lim_{n \to \infty}\mathbb{E}[\hat{\theta} \mid \theta] = \theta\text{,} Ñθ^θ^\hat{\theta}nnn 那么，如何向外行人解释什么是无偏估计呢？

10 bias  asymptotics  unbiased-estimator  estimators  communication 

例如，我经常遇到一些学生，他们知道“观察到的是“人口有偏估计。然后，在撰写报告时，他们会说：R 2[R2[R2R^2[R2[R2R^2 “我计算了观察到的和调整后的，它们非常相似，这表明我们获得的观察到的值仅有少量偏差。”R 2 R 2[R2[R2R^2[R2[R2R^2[R2[R2R^2 我通常会在谈论偏见时谈论的是估算器的属性，而不是特定的估算。但是，上面引用的语句是否滥用了术语，或者可以吗？

10 mathematical-statistics  terminology  bias  estimators 

我想估计函数f的平均值，即 ，其中和是独立随机变量。我有f的样本，但没有iid：有iid样本，每个有来自样本：EX,Y[f(X,Y)]EX,Y[f(X,Y)]E_{X,Y}[f(X,Y)]XXXYYYY1,Y2,…YnY1,Y2,…YnY_1,Y_2,\dots Y_nYiYiY_ininin_iXXXXi,1,Xi,2,…,Xi,niXi,1,Xi,2,…,Xi,niX_{i,1},X_{i,2},\dots, X_{i,n_i} 所以总共我有样本f(X1,1,Y1)…f(X1,n1,Y1)…f(Xi,j,Yi)…f(Xn,nn,Yn)f(X1,1,Y1)…f(X1,n1,Y1)…f(Xi,j,Yi)…f(Xn,nn,Yn)f(X_{1,1},Y_1) \dots f(X_{1,n_1},Y_1 ) \dots f(X_{i,j},Y_i) \dots f(X_{n,n_n},Y_n) 为了估计平均值，我计算 显然，所以是一个无偏估计量。我现在想知道什么是，即估计量的方差是多少。μ=∑i=1n1/n∗∑j=1nif(Xi,j,Yi)niμ=∑i=1n1/n∗∑j=1nif(Xi,j,Yi)ni\mu=\sum_{i=1}^n 1/n * \sum_{j=1}^{n_i}\frac{ f(X_{i,j},Y_i)}{n_i}EX,Y[μ]=EX,Y[f(X,Y)]EX,Y[μ]=EX,Y[f(X,Y)]E_{X,Y}[\mu]=E_{X,Y}[f(X,Y)]μμ\muVar(μ)Var(μ)Var(\mu) 编辑2：这是正确的方差吗？ 它似乎在极限中起作用，即，如果n = 1且所有则方差仅成为均值的方差。如果该公式成为估计量方差的标准公式。它是否正确？我如何证明它是？ Var(μ)=VarY(μi)n+∑i=1nVarX(f(X,Yi)))ni∗n2Var(μ)=VarY(μi)n+∑i=1nVarX(f(X,Yi)))ni∗n2Var(\mu)=\frac{Var_Y(\mu_i)}{n}+\sum_{i=1}^n \frac{Var_X(f(X,Y_i)))}{n_i*n^2}ni=∞ni=∞n_i=\inftyni=1ni=1n_i=1 编辑（忽略此内容）： 因此，我想我取得了一些进展：让我们首先定义，这是对。μi=∑nij=1f(Xi,j,Yi)niμi=∑j=1nif(Xi,j,Yi)ni\mu_i=\sum_{j=1}^{n_i}\frac{ f(X_{i,j},Y_i)}{n_i}EX[f(X,Yi)]EX[f(X,Yi)]E_X[f(X,Y_i)] 使用方差的标准公式，我们可以编写： Var(μ)=1/n2∑l=1n∑k=1nCov(μl,μk)Var(μ)=1/n2∑l=1n∑k=1nCov(μl,μk)Var(\mu)=1/n^2 \sum_{l=1}^n \sum_{k=1}^n Cov(\mu_l,\mu_k) 可以简化为 和因为是独立绘制的，所以我们可以进一步简化为 并且对于协方差： 1/n2(∑i=1nVar(μl)+1/n2∑l=1n∑k=l+1n2∗Cov(μl,μk))1/n2(∑i=1nVar(μl)+1/n2∑l=1n∑k=l+1n2∗Cov(μl,μk))1/n^2( \sum_{i=1}^n Var(\mu_l)+ 1/n^2\sum_{l=1}^n \sum_{k=l+1}^n 2*Cov(\mu_l,\mu_k))XijXijX_{ij}1/n2(∑i=1n1/niVar(f(Xi,j,Yi))+1/n2∑l=1n∑k=l+1n2∗Cov(μl,μk))1/n2(∑i=1n1/niVar(f(Xi,j,Yi))+1/n2∑l=1n∑k=l+1n2∗Cov(μl,μk))1/n^2( \sum_{i=1}^n 1/n_i Var(f(X_{i,j},Y_i))+1/n^2 \sum_{l=1}^n \sum_{k=l+1}^n 2*Cov(\mu_l,\mu_k))Cov(μl,μk)=Cov(∑j=1nlf(Xj,l,Yl)nl,∑j=1nkf(Xj,k,Yk)nk)=1(nk∗nl)∗Cov(∑j=1nlf(Xj,l,Yl),∑j=1nkf(Xj,k,Yk))=1(nk∗nl)∗∑j=1nl∑j=1nkCov(f(X,Yl),f(X,Yk))=nk∗nl(nk∗nl)Cov(f(Xi,l,Yl),f(Xi,k,Yk))=Cov(f(X,Yl),f(X,Yk))Cov(μl,μk)=Cov(∑j=1nlf(Xj,l,Yl)nl,∑j=1nkf(Xj,k,Yk)nk)=1(nk∗nl)∗Cov(∑j=1nlf(Xj,l,Yl),∑j=1nkf(Xj,k,Yk))=1(nk∗nl)∗∑j=1nl∑j=1nkCov(f(X,Yl),f(X,Yk))=nk∗nl(nk∗nl)Cov(f(Xi,l,Yl),f(Xi,k,Yk))=Cov(f(X,Yl),f(X,Yk))\begin{align} Cov(\mu_l,\mu_k)&=Cov(\sum_{j=1}^{n_l} \frac{f(X_{j,l},Y_l)}{n_{l}},\sum_{j=1}^{n_k} \frac{f(X_{j,k},Y_k)}{n_{k}})\\ …

10 variance  unbiased-estimator  estimators 

假设我有正参数来估计以及由估计器产生的相应的无偏估计，即，等。nnn^ μ 1，^ μ 2，。。。，^ μ Ñ ë [ ^ μ 1 ] = μ 1个Ë [ ^ μ 2 ] = μ 2μ1个，μ2，。。。，μñμ1,μ2,...,μn\mu_1,\mu_2,...,\mu_nñnnμ1个^，μ2^，。。。，μñ^μ1^,μ2^,...,μn^\hat{\mu_1},\hat{\mu_2},...,\hat{\mu_n}E [ μ1个^] = μ1个E[μ1^]=μ1\mathrm E[\hat{\mu_1}]=\mu_1E [ μ2^] = μ2E[μ2^]=μ2\mathrm E[\hat{\mu_2}]=\mu_2 我想使用手头的估算来估算。显然，幼稚估计被偏置为低 中号我Ñ（ μ1个，μ2，。。。，μñ）min(μ1,μ2,...,μn)\mathrm{min}(\mu_1,\mu_2,...,\mu_n)中号我Ñ（ μ1个^，μ2^，。。。，μñ^）min(μ1^,μ2^,...,μn^)\mathrm{min}(\hat{\mu_1},\hat{\mu_2},...,\hat{\mu_n})E[min(μ1^,μ2^,...,μn^)]≤min(μ1,μ2,...,μn)E[min(μ1^,μ2^,...,μn^)]≤min(μ1,μ2,...,μn)\mathrm E[\mathrm{min}(\hat{\mu_1},\hat{\mu_2},...,\hat{\mu_n})]\leq \mathrm{min}(\mu_1,\mu_2,...,\mu_n) 假设我还拥有相应估计量的协方差矩阵。是否有可能使用给定的估计值和协方差矩阵来获得最小的无偏（或偏少偏见）估计？Cov(μ1^,μ2^,...,μn^)=ΣCov(μ1^,μ2^,...,μn^)=Σ\mathrm{Cov}(\hat{\mu_1},\hat{\mu_2},...,\hat{\mu_n}) = \Sigma

9 unbiased-estimator  estimators  minimum