Questions tagged «least-squares»

3
FIR滤波器设计:Window vs Parks McClellan和最小二乘
在低通滤波器的FIR滤波器设计中,使用窗方法相对于Parks-McClellan(此处进一步缩写为PMcC)或最小二乘算法有什么优势吗?以当今的计算能力为前提,算法本身的复杂性不是一个因素。 这个问题不是在将PMcC与最小二乘进行比较,而是特别是是否有任何理由使用任何窗口FIR设计技术来代替那些算法,还是窗口技术来过滤设计而被这些算法所淘汰并被归于教学目的? 下面是一个比较,在该比较中,我使用相同数量的水龙头将汉明窗与我偏爱的最小二乘设计方法进行了比较。我以最小二乘方法加宽了通带,使其与汉明窗的通带紧密匹配,在这种情况下,很明显,最小二乘的性能优于(提供更大的阻带抑制性能)。我还没有在所有窗口上执行此操作,这使我想到了一个问题,即您是否可以胜过PMcC和最小二乘,或者是否还有其他使用FIR低通滤波器的应用,而该方法更适合使用开窗方法?

1
什么使曲面凸出错误?是由Covarinace矩阵还是由Hessian确定?
我目前正在学习有关回归的最小二乘估计(以及其他方法),并且从一些自适应算法文献中也可以看到,经常出现短语“ ...并且由于误差面是凸的...”,并且从何开始是凸面的任何深度都找不到。 ...那么究竟是什么使它凸出呢? 我发现这种重复的遗漏有点令人讨厌,因为我希望能够使用自己的成本函数设计自己的自适应算法,但是如果我无法确定我的成本函数是否产生凸误差面,我将无法由于没有全局最小值,因此在应用诸如梯度下降之类的方法时走得太远了。也许我想变得有创意-例如,也许我不想使用最小二乘作为错误标准。 深入研究(我的问题从这里开始)后,我发现,为了能够判断您是否具有凸误差面,必须确保您的Hessian矩阵是正半定的。对于对称矩阵,此测试很简单-只需确保Hessian矩阵的所有特征值均为非负值即可。(如果您的矩阵不是对称的,则可以通过将其添加到自己的转置中并借助Gramian进行相同的特征值测试来使其对称,但这在这里并不重要)。 什么是黑森州矩阵?Hessian矩阵将成本函数的部分的所有可能组合编码。那里有几个局部?特征向量中的特征数目。如何计算局部数?从原始成本函数中“手动”取偏导数。 所以这正是我所做的:我假设我们有一个mmm x数据矩阵,用矩阵表示,其中,nnnXXXmmm denotes the number of examples, and nnn denotes the number of features per example. (which will also be the number of partials). I suppose we can say that we have mmm time samples and nnn spatial samples from sensors, but the physical …

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.