Questions tagged «covariance»

我目前正在学习有关回归的最小二乘估计（以及其他方法），并且从一些自适应算法文献中也可以看到，经常出现短语“ ...并且由于误差面是凸的...”，并且从何开始是凸面的任何深度都找不到。 ...那么究竟是什么使它凸出呢？ 我发现这种重复的遗漏有点令人讨厌，因为我希望能够使用自己的成本函数设计自己的自适应算法，但是如果我无法确定我的成本函数是否产生凸误差面，我将无法由于没有全局最小值，因此在应用诸如梯度下降之类的方法时走得太远了。也许我想变得有创意-例如，也许我不想使用最小二乘作为错误标准。 深入研究（我的问题从这里开始）后，我发现，为了能够判断您是否具有凸误差面，必须确保您的Hessian矩阵是正半定的。对于对称矩阵，此测试很简单-只需确保Hessian矩阵的所有特征值均为非负值即可。（如果您的矩阵不是对称的，则可以通过将其添加到自己的转置中并借助Gramian进行相同的特征值测试来使其对称，但这在这里并不重要）。 什么是黑森州矩阵？Hessian矩阵将成本函数的部分的所有可能组合编码。那里有几个局部？特征向量中的特征数目。如何计算局部数？从原始成本函数中“手动”取偏导数。 所以这正是我所做的：我假设我们有一个mmm x数据矩阵，用矩阵表示，其中，nnnXXXmmm denotes the number of examples, and nnn denotes the number of features per example. (which will also be the number of partials). I suppose we can say that we have mmm time samples and nnn spatial samples from sensors, but the physical …

17 autocorrelation  covariance  least-squares  optimization 

我试图弄清楚这些概念之间是否存在直接关系。从定义严格来说，它们通常看起来是不同的概念。但是，我想得越多，他们就越相似。 令为WSS随机向量。协方差由，其中代表矢量的埃尔米特式。X，YX，ÿX,YCXÿCXÿC_{XY}CXÿ= E[（X- μX）（是- μÿ）H]CXÿ=Ë[（X-μX）（ÿ-μÿ）H]C_{XY}=E\left[(X-\mu_x)(Y-\mu_y)^H\right]HHH 令为WSS随机向量。自相关函数由žžZ[RXX[RXXR_{XX}[Ržž（τ）= E[ （Z（Ñ ）- μž）（Z（n + τ）- μž）H][Ržž（τ）=Ë[（ž（ñ）-μž）（ž（ñ+τ）-μž）H]R_{ZZ}(\tau)=E\left[\left(Z(n)-\mu_z\right)\left(Z(n+\tau)-\mu_z\right)^H\right] 编辑说明此定义已应用于信号处理的更正，请参见下面的Matt's Answer。 协方差不涉及时间概念，它假设随机向量的每个元素都是某个随机生成器的不同实现。自相关假设随机向量是某个初始随机发生器的时间演化。但最后，它们都是相同的数学实体，是一个数字序列。如果让出现，那么它似乎是我还有更微妙的东西吗？X= Y= ZX=ÿ=žX=Y=ZCXÿ= RžžCXÿ=[RžžC_{XY}=R_{ZZ}

13 autocorrelation  covariance  proof 

每当我认为我了解了协方差矩阵时，都会有人提出不同的表述。 我目前正在阅读本文： J. Benesty，“用于无源声源定位的自适应特征值分解算法”，J。Acoust。Soc。上午。第107卷，第1期，第384-391页（2000） 我遇到了一个我不太了解的表述。在这里，作者正在构建两个信号x1x1x_1和之间的协方差矩阵。这两个信号来自不同的传感器。x2x2x_2 对于一个信号的协方差矩阵，我知道我们可以通过计算回归矩阵，然后将其乘以同一矩阵的Hermitian，然后除以（原始向量的长度）来获得。这里的协方差矩阵的尺寸可以是任意的，具有最大尺寸为。NNNN×NN×NN\times N 对于两个空间信号的协方差矩阵，如果将第一个信号放在矩阵的第一行中，将第二个信号放在矩阵的第二行中，然后乘以其Hermitian，再除以，则得到两个空间信号的协方差矩阵。NNN2×22×22\times 2 然而，在本文中，笔者单位计算什么样子4个 matricies，，和，然后将它们放入一个超级矩阵和呼叫协方差矩阵。R11,R12,R21R11,R12,R21R_1{}_1, R_1{}_2, R_2{}_1R22R22R_2{}_2 为什么会这样呢？这是文本的图片：

9 covariance