确定性模型和随机模型有什么区别？

简单线性模型：

$x=\alpha t + \epsilon_t$ 其中〜IID $\epsilon_t$ $N(0,\sigma^2)$

与和 $E(x) = \alpha t$ $Var(x)=\sigma^2$

AR（1）：

$X_t =\alpha X_{t-1} + \epsilon_t$ 其中〜IID $\epsilon_t$ $N(0,\sigma^2)$

与和 $E(x) = \alpha t$ $Var(x)=t\sigma^2$

因此，简单的线性模型被视为确定性模型，而AR（1）模型被视为随机模型。

根据本·兰伯特（Ben Lambert）-确定性与随机性的Youtube视频，将AR（1）称为随机模型的原因是因为它的方差随时间增加。那么，非恒定方差的特征是否是确定随机或确定性的标准？

我也认为简单线性模型不是完全确定性的，因为我们有一个项与模型相关联。因此，我们总是在具有随机性。那么我们可以说模型是确定性的还是随机的呢？ $\epsilon_t$ $x$

— 肯特
source

任何带有误差项的模型都是随机的。它与必须随时间变化的方差无关。

— Michael R. Chernick

@MichaelChernick我不明白。那么为什么人们说简单线性回归是确定性模型呢？

— 肯T

您能否提供一个链接以显示该内容的表达方式以及原因。？

— Michael R. Chernick

这是几年前从我的时间序列分析课程笔记中得出的。也许是错的。

— 肯T

Answers:

视频正在谈论确定性与随机趋势，而不是模型。重点是非常重要的。您的两个模型都是随机的，但是，在模型1中，趋势是确定的。

模型2没有趋势。您的问题文本不正确。

您问题中的模型2是没有常数的AR（1），而在视频中，模型是随机行走（布朗运动）：此模型确实具有随机趋势。它是随机的，因为它平均仅。由于随机项，每个布朗运动的实现都将偏离，这很容易通过微分看出：

x_{t} = α + x_{t - 1} + e_{t}

$x_t=\alpha+x_{t-1}+e_t$

α t

$\alpha t$

α t

$\alpha t$

e_{t}

$e_t$

Δ x_{t} = x_{t} - x_{t - 1} = α + e_{t}

$\Delta x_t=x_t-x_{t-1}=\alpha+e_t$

x_{t} = x_{0} + \sum_{t = 1}^{t} Δ x_{t} = x_{0} + α t + \sum_{t = 1}^{t} e_{t}

$x_t=x_0+\sum_{t=1}^t\Delta x_t=x_0+\alpha t +\sum_{t=1}^t e_t$

— 阿克萨卡尔族
source

+1。但是要完全清楚和准确，您可能要指出与的偏差是由于随机项，而不仅仅是。

α t

$\alpha t$

e_{1} + e_{2} + \dots + e_{t}

$e_1+e_2+\dots +e_t$

e_{t}

$e_t$

— whuber

正如阿克萨卡（Aksakal）在回答中提到的那样，肯特（Ken T）链接的视频描述的是趋势的属性，而不是模型的直接描述，大概是作为计量经济学中有关趋势和平稳平稳性的相关主题的一部分。由于在您的问题中，您询问过模型，所以这里是在模型的上下文中：

如果模型或过程具有随机性，则它是随机的。例如，如果给定相同的输入（独立变量，权重/参数，超参数等），则模型可能会产生不同的输出。在确定性模型中，输出完全由模型的输入（独立变量，权重/参数，超参数等）指定，因此，给定相同的模型输入，输出是相同的。术语“随机”的起源是随机过程。作为一般经验法则，如果模型具有随机变量，则它是随机的。随机模型甚至可以是简单的独立随机变量。

让我们打开一些更多的术语，这些术语将帮助您了解有关统计模型的文献（确定性，随机性或其他方式）：

随机模型不需要是时间相关的，甚至不需要马尔可夫过程（取决于过去的状态，例如是一阶马尔可夫，因为它取决于的状态）。您上面提出的线性模型是随机的（具有随机变量），但不是马尔可夫的（不取决于过去的状态）。在问题所提出的线性模型中，误差项是我们认为不相关的随机变量（有些人进一步说误差为iid），关于均值对称分布（有些人进一步说误差通常为误差）分布）和均值零（），等等。我们进行这些假设是为了使线性模型可用于估计 $AR(1)$ $t-1$ $\mu_{\epsilon_t}=0$ 通过最小化该误差项的一些范数来确定因变量。这些假设使我们能够得出估计量的有用性质，并证明某些估计量在这些假设下是最佳的。例如，OLS估计量为BLUE。

随机模型的一个简单示例是翻转公平硬币（正面或反面），可以将其随机建模为iid均匀分布的二进制随机变量或伯努利过程。如果考虑硬币的形状，撞击角度和作用力，与表面的距离等，也可以将硬币翻转视为一个物理系统，并提供确定性模型（在理想的设置中）。硬币翻转的后一个（物理）模型中没有随机变量（例如，它不考虑该模型的任何输入的测量误差），因此它是确定性的。

在统计学教学中，随机性和异方差性存在一个共同点。例如，Ken T将随机性与异方差性（或方差变异性）混淆了。随机（随机的）变量，如输出变量一个的过程或中的线性模型，是异方差当且仅当在某个输入它的方差的变化，如时间（中）这种情况下，人口中的不同群体会有不同的方差。在肯·T（本·兰伯特）链接的视频中，如果您在4:00（4分钟）处将其暂停，则可以看到 $X_t$ $AR(1)$ $\epsilon_t$ $y_t = ax_t+\epsilon_t$ $t$ $Var[X_t]$ 线性模型中的是恒定的（同线性的），右侧模型中的随变化（异方差）。 $t$ $Var[X_t]$

此外，有时在固定随机过程和非固定随机过程之间会产生混淆。平稳性意味着模型中的统计数据（例如均值或方差）不会随时间变化。只要涉及随机性，两者仍被认为是随机模型/过程。正如Maroon同胞Matthew Gunn在回答中提到的那样，Wold的分解表明，任何平稳的随机过程都可以写成确定性过程和随机过程之和。

— 我做
source

好答案！一个问题：为什么您要写“……如果它的方差在某个参数上发生了变化……”，那不应该在某个变量（或某个变量的函数）上发生变化吗？

— 亚历克西斯（Alexis）

@Alexis我指的是时间作为模型的参数。您是对的，这种语言不准确。固定。谢谢。:-)

— ido

AR（1）的方差如何变化？

— 阿克萨卡尔州

@Aksakal不会随时间变化，而是，但如果为则 ...（指的是Ken T.所描述的模型。）

V a r [ε_{t}]

$Var[\varepsilon_t]$

σ^{2}

$\sigma^2$

V a r [X_{t}] = t σ^{2}

$Var[X_t] = t\sigma^2$

X_{t} = α + X_{t - 1} + ε_{t}

$X_t = \alpha + X_{t-1} + \varepsilon_t$

ε_{t} \sim N (0, σ^{2})

$\varepsilon_t \sim N(0, \sigma^2)$

A R (1)

$AR(1)$

— ido

只是在您要问的情况下进一步显示工作，Aksakal：且恒定，因为是iid或至少不相关。同样，不用说，但是由于是iid。

V a r [X_{t}] = V a r [X_{t - 1}] + V a r [ε_{t}] = \sum_{i = 1}^{t} V a r [ε_{i}] = t σ^{2}

$Var[X_t] = Var[X_{t-1}] + Var[\varepsilon_t] = \sum_{i=1}^{t} Var[\varepsilon_i] = t\sigma^2$

V a r [ε_{i}] = σ^{2}

$Var[\varepsilon_i] = \sigma^2$

ε_{t}

$\varepsilon_t$

ε_{t}

$\varepsilon_t$

C o v [X_{t}, X_{t - 1}] = 0

$Cov[X_t, X_{t-1}] = 0$

— ido

一些非正式的定义

甲确定性时间序列可以写为仅时间的函数。没有随机性。一些例子：
- $y(t) = 2t$
- $y(t) = e^t$
一个随机过程 $\{Y_t\}$ 是一系列的随机变量。回想一下，随机变量是从样本空间到结果的函数。随机过程是时间和样本空间的结果的函数。例子： $\Omega$ $Y(t,\omega)$ $t$ $\omega$ $\Omega$
- $y_t = \epsilon_t$ 其中（即遵循标准正态分布） $\epsilon_t \sim \mathcal{N}(0, 1)$
- $y_t = .7 y_{t-1} + \epsilon_t$
您还可以将随机过程视为样本空间每个结果的确定性路径。随机绘制一个，您会得到路径。 $\omega$ $\Omega$ $\omega \in \Omega$ $Y_t(\omega)$

一些评论...

...之所以将AR（1）称为随机模型，是因为其方差随时间增加。

那不是原因！AR（1）定义随机过程的原因是该过程是随机的。在时间可能有不同的值，因此该过程是随机的。 $t$

我也认为简单线性模型不是完全确定性的，因为我们有一个项与模型相关联。 $\epsilon_t$

您在写下的没有确定性。如果你有一个时间序列处理其中是一个白噪声过程，那么时间序列将不会是确定性的。因为随机所以是随机的！ $x_t$ $x_t = \alpha t + \epsilon_t$ $\{\epsilon_t\}$ $\{x_t\}$

时间序列将是确定性的。您可以将分解为两个部分：确定性部分和随机性部分。 $y_t = \alpha t$ $\{x_t\}$ $\alpha t$ $\epsilon_t$

这导致了沃尔德定理，任何协方差平稳过程都可以唯一地分解为确定性分量和随机性分量。

— 马修·冈恩
source