为什么通过回归去趋势时间序列是有效的?


14

这可能是一个很奇怪的问题,但是作为该主题的新手,我想知道如果如果回归的假设之一是数据应该被id,而应用回归的数据是非iid?


6
通常,我们不能假设“数据”是iid
Christoph Hanck,2017年

3
什么是你的意思准确地消除趋势
马修·冈恩

6
我没有时间为此写一个适当的答案/文档,但是总的来说,串行相关性不会使线性回归的结果产生偏差(它会改变标准误差,置信区间等的适当计算)。这使经典的两阶段方法(趋势下降,然后进行相关性分析)变得明智。(例如“序列相关一些谷歌搜索线性回归无偏导到fmwww.bc.edu/ec-c/f2010/228/EC228.f2010.nn12.pdf
本Bolker

2
也许更重要的是,线性趋势的系数的OLS估计器(以的速率)收敛到其真实值的速度要比固定回归变量( -1/2)快一个数量级。),这意味着即使您忽略固定变量也可以一致地估算趋势。这与一个个地估计固定变量的影响相反,后者在忽略变量时会失去一致性。n3/2n1/2
理查德·哈迪

Answers:


15

您会敏锐地意识到,通常的最小二乘线性回归的经典假设与时间序列设置中常见的序列相关性之间可能会发生冲突。

考虑林子文雄的计量经济学的假设1.2(严格的外生性)。

E[ϵiX]=0

反过来,这意味着,表示任何残差与任何回归变量正交。正如Hayashi指出的那样,在最简单的自回归模型中违反了这一假设。[1]考虑一下AR(1)过程:E[ϵixj]=0ϵixj

yt=βyt1+ϵt

我们可以看到将是的回归变量,但是与不正交(即)。ytyt+1ϵtytE[ϵtyt]0

由于违反了严格的外生性假设,因此任何依赖于该假设的参数都无法应用于此简单的AR(1)模型!

那么我们有一个棘手的问题吗?

不,我们不!用普通最小二乘法估计AR(1)模型是完全有效的标准行为。为什么还可以呢?

大样本的渐近论证不需要严格的外生性。一个充分的假设(可以用来代替严格的外生性)是回归器是预先确定的,回归器与同期误差项正交。有关完整的论述,请参见Hayashi第2章。

参考文献

[1] Fumio Hayashi,《计量经济学》(2000年),第1页。35

[2]同上,p。134


6

基本的最小二乘类型回归方法不假设y值为iid,而是假设残差(即y值减去真实趋势)为iid

存在其他回归方法,这些方法做出不同的假设,但这可能会使答案复杂化。


5
假设也显然是错误的:仅考虑具有线性趋势和季节性的时间序列。线性回归的剩余残差显然是相关的,因此不是iid。
DeltaIV '17

3

这是一个好问题!时间序列书中甚至没有提到这个问题(我可能需要更好的书:)首先,请注意,如果时间序列具有随机趋势(单位根不必强迫使用线性回归来使时间序列趋势下降) )-您只需采取第一个区别。但是,如果该系列具有确定性趋势,则必须使用线性回归。如您所说,在这种情况下,残差确实不是iid。试想一下一个具有线性趋势,季节成分,周期性成分等的序列-线性回归后,残差几乎是独立的。关键是您不是在使用线性回归进行预测或形成预测间隔。这只是推理过程的一部分:您仍然需要应用其他方法来得出不相关的残差。因此,虽然线性回归本身 对于大多数时间序列而言,它不是有效的推理程序(它不是正确的统计模型),如果线性回归作为其步骤之一,则该过程假定是与模型的数据生成过程相对应的,则该过程可能是有效的模型。时间序列。


3
如果您具有确定性趋势,请不要区分-区分仅适用于随机趋势(单位根)。如果您区分没有单位根的序列,则会在模型中引入综合的移动平均误差类型,这很麻烦。
理查德·哈迪

1
我认为您的意思是差异,而不是差异。
Hong Ooi

yt=β0+β1yt1+ϵt

1
@HongOoi,是的,我不好,我的意思是区别,而不是区别。如果时间序列是一个集成的(=单位根)过程,则时间序列DeltaIV被认为具有随机趋势。这是单位根和协整文献中的标准术语。我想知道它在其他文学作品中是否有不同的含义。在任何情况下,过度差分(=差分没有单位根的时间序列)都是一个臭名昭著的现象,应避免这种情况。
理查德·哈迪

y=β0+beta1x1
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.