Answers:
假设您有数据,其中并且您的目标是建立模型(例如,)在给定预测。为了具体起见,假设数据为每日,对应于今天。
样本内分析意味着使用直到并包括所有可用数据来估计模型,然后将模型的拟合值与实际实现进行比较。但是,由于通用拟合算法(例如使用平方误差或似然准则)往往会为避免大的预测误差而费劲,并且容易受到过度拟合的影响-误认为噪声,因此已知该过程会对模型的预测能力产生过于乐观的印象用于数据中的信号。
真正的样本外分析将是基于直到今天(包括今天)的数据来估计模型,构建对明天值的预测,等到明天,记录预测误差重新估计模型,对进行新的预测,依此类推。在本练习的最后,将有一个预测误差样本,这实际上是样本外的,并且将给出一个非常逼真的图像模型的性能。
由于此过程非常耗时,因此人们经常诉诸于“伪”或“模拟”的样本外分析,这意味着使用某个历史日期来模仿上一段中描述的过程,而不是以今天的日期为起点。然后将所得的预测误差用来估算模型的样本外预测能力。
请注意,伪样本外分析不是估计模型样本外性能的唯一方法。替代方法包括交叉验证和信息标准。
第7章对所有这些问题进行了很好的讨论。
http://www.stanford.edu/~hastie/local.ftp/Springer/OLD/ESLII_print4.pdf