通过SVD / PCA计算拟合新图像

我正在尝试从Wikipedia 的Eigenface页面复制想法。从数据矩阵表示的一百个样本图像$\bf X$（每个图像展平为长度为的向量$n$，因此$\bf X$为$100$ x $n$矩阵）中，我计算了SVD分解：

$$\begin{equation} \bf X = U \Sigma V^{T} \end{equation}$$

因此：

$$\begin{equation} \bf X X^{T} = U \Sigma^2 U^{T} \end{equation}$$

通过取最大的子集$q$本征模，我可以近似矩阵（让$\sigma_1 \ge \sigma_2 \ge \cdots$）：

$$\begin{equation} {\bf X} \approx \sigma_1 u_1 v_1^{T} + \sigma_2 u_2 v_2^{T} + \cdots + \sigma_q u_q v_q^{T} \end{equation}$$

现在给定一个新的向量$y$，该向量表示不在的图像$\bf X$，我如何确定$q$特征向量的权重$\bf U$以最好地表示我的新图像$y$？除病理情况外，此表示是否唯一？

简而言之，我想做的是（来自Wiki页面）：

这些特征脸现在可以用来表示现有的和新的面孔：我们可以在特征面孔上投影一个新的（均值减去的）图像，从而记录新面孔与平均面孔的区别。

我该如何做投影？

所指的“投影”是矢量投影。要计算向量在向量b上的投影，请使用两个向量的内积：$\mathbf{a}$$\mathbf{b}$

$$\mathbf{a_{proj}} = \langle \mathbf{a}, \mathbf{b} \rangle \mathbf{b}$$

在这种情况下，该矢量的分量一个即在于相同的方向 b。在欧几里得空间中，内积运算符定义为其点积：$\mathbf{a_{proj}}$$\mathbf{a}$$\mathbf{b}$

$$\langle \mathbf{a}, \mathbf{b} \rangle = \mathbf{a} \cdot \mathbf{b} = \sum_{i=1}^{n}a_ib_i$$

其中是部件的载体中的号码一和b以及一个我和b 我是本我矢量的第分量一个和b，分别。直观地，通过计算两个向量的内积，可以发现向量a中有“多少” 沿着向量b的方向移动。请注意，这是一个有符号的数量，因此负值将意味着两个向量之间的角度大于90度，如投影算符的替代定义所示：$n$$\mathbf{a}$$\mathbf{b}$$a_i$$b_i$$i$$\mathbf{a}$$\mathbf{b}$$\mathbf{a}$$\mathbf{b}$

$$\mathbf{a_{proj}} = |\mathbf{a}| \cos(\theta) \mathbf{b}$$

其中是两个向量之间的角度。$\theta$

因此，给定一个向量和一堆基础向量b i，可以发现“多少a ”在每个基础向量的每个方向上进行。通常，那些基向量将全部相互正交。在您的情况下，SVD是正交分解，因此应满足此条件。因此，要完成您所描述的内容，您将采用特征向量U的矩阵，并使用矩阵的每一列计算候选向量y的内积：$\mathbf{a}$$\mathbf{b_i}$$\mathbf{a}$$\mathbf{U}$$\mathbf{y}$

$$p_i = \mathbf{y} \cdot \mathbf{u_i}$$

从每个内积得到的标量值表示向量y与第i个本征向量“对齐”的程度。由于特征向量是正交向量，因此您可以按如下方式重构原始向量y：$p_i$$\mathbf{y}$$i$$\mathbf{y}$

$$\mathbf{y} = \sum_{i=1}^n p_i \mathbf{u_i}$$

您问这种表示是否唯一？我不确定您的意思到底是什么，但是就给定向量可以通过投影到任意数量的正交基上可以分解的意义而言，它并不是唯一的。矩阵U中包含的特征向量就是一个这样的例子，但是您可以使用任意其他数目的例子。例如，计算离散傅立叶变换的ÿ可以被看作是它投影到不同的频率的复指数矢量的正交基。$\mathbf{y}$$\mathbf{U}$$\mathbf{y}$