回归的自然三次样条的定义

16

我正在从Hastie等人的《统计学习的数据挖掘，推理和预测的要素》一书中学习样条曲线。我在第145页上发现，自然三次样条曲线在边界结之外是线性的。有 $K$ 结， $\xi_1, \xi_2, ... \xi_K$ 在栓和下面给出关于在书中这样一个样。

问题1：如何释放4个自由度？我没有这部分。

问题2：在定义时然后 $d_k(X)$ $k=K$ 。作者在这个公式中想做什么？这如何帮助确保样条曲线在边界结之外是线性的？ $d_K(X) = \frac 0 0$

— 杜林
source

17

让我们从考虑普通三次样条开始。它们在每对结之间是立方体，在边界结之外是立方体。我们从第一个立方的4df（第一个边界结的左侧）开始，每个结添加一个新参数（因为三次样条和导数的连续性以及第二个导数添加了三个约束，剩下一个自由参数），使得结参数。 $K+4$ $K$

天然三次样条曲线的两端均为线性。此约束立方和二次部件那里为0，各由1这2 DF在每个曲线的两端的，减少降低了DF 至。 $K+4$ $K$

想象一下，您决定可以在非参数曲线估计上花费一定的自由度总数（例如）。由于强加自然样条线所使用的自由度比普通三次样条线少4个（对于相同数量的结），因此使用这些参数，您可以再有4个结（因此还有4个参数）来模拟边界结之间的曲线。 $p$ $p$
注意，对于定义为（因为总共有基函数）。因此，该列表中的最后一个基函数。所以最高所需的定义为 $N_{k+2}$ $k=1,2,...,K-2$ $K$ $N_{K}=d_{K-2}-d_{K-1}$ $k$ $d_k$ $k=K-1$ 。（也就是说，由于我们不使用，因此我们无需尝试找出可以做什么。） $d_K$

— Glen_b-恢复莫妮卡
source

4

我细节断言：“这释放了四个自由度（各在两个边界区域两个约束）”在一个示例节。相关的间隔 $2$ $\xi_1, \xi_2$ ，和（所以有时间间隔和 $]-\infty, \xi_1[$ $]\xi_1, \xi_2[$ $]\xi_2, +\infty[$ $|I|=3$ $|I|-1=2$ 结）。

对于（普通）三次样条

没有规律性约束，我们有方程式： $4|I|=12$

1 (X < ξ_{1}); 1 (X < ξ_{1}) X; 1 (X < ξ_{1}) X^{2}; 1 (X < ξ_{1}) X^{3};

$\mathbf{1}(X < \xi_1)~~;~~\mathbf{1}(X < \xi_1)X~~;~~\mathbf{1}(X < \xi_1)X^2~~;~~\mathbf{1}(X < \xi_1)X^3~~;$

1 (ξ_{1} \leq X < ξ_{2}); 1 (ξ_{1} \leq X < ξ_{2}) X; 1 (ξ_{1} \leq X < ξ_{2}) X^{2}; 1 (ξ_{1} \leq X < ξ_{2}) X^{3};

$\mathbf{1}(\xi_1 \leq X < \xi_2)~~;~~\mathbf{1}(\xi_1 \leq X < \xi_2)X~~;~~\mathbf{1}(\xi_1 \leq X < \xi_2)X^2~~;~~\mathbf{1}(\xi_1 \leq X < \xi_2)X^3~~;$

1 (ξ_{2} \leq X); 1 (ξ_{2} \leq X) X; 1 (ξ_{2} \leq X) X^{2}; 1 (ξ_{2} \leq X) X^{3} .

$\mathbf{1}(\xi_2 \leq X)~~;~~\mathbf{1}(\xi_2 \leq X)X~~;~~\mathbf{1}(\xi_2 \leq X)X^2~~;~~\mathbf{1}(\xi_2 \leq X)X^3.$

$\mathcal{C}^r$ $r=2$ $(r+1)\times(|I|-1) = 3\times(|I|-1) = 6$

$12-6=6$

对于自然三次样条

“ 自然的三次样条曲线会增加其他约束，即该函数在边界结之外是线性的。”

$4|I|-4=12-4$ $4$ $2$

1 (X < ξ_{1}); 1 (X < ξ_{1}) X;

$\mathbf{1}(X < \xi_1)~~;~~\mathbf{1}(X < \xi_1)X~~;~~$

1 (ξ_{1} \leq X < ξ_{2}); 1 (ξ_{1} \leq X < ξ_{2}) X; 1 (ξ_{1} \leq X < ξ_{2}) X^{2}; 1 (ξ_{1} \leq X < ξ_{2}) X^{3};

$\mathbf{1}(\xi_1 \leq X < \xi_2)~~;~~\mathbf{1}(\xi_1 \leq X < \xi_2)X~~;~~\mathbf{1}(\xi_1 \leq X < \xi_2)X^2~~;~~\mathbf{1}(\xi_1 \leq X < \xi_2)X^3~~;$

1 (ξ_{2} \leq X); 1 (ξ_{2} \leq X) X .

$\mathbf{1}(\xi_2 \leq X)~~;~~\mathbf{1}(\xi_2 \leq X)X.$

The constraints are the same as before, so we still need to add $3\times(|I|-1) = 6$ constraints on the linear coefficients.

We end up with $8-6=2$ degree of freedom.

— ahstat
source