关于压缩感测问题的困惑

我阅读了一些参考资料，包括this。

我对压缩感测建立和试图解决的优化问题感到困惑。是吗

或/和

或/还有其他？

Brian在现场。但是我认为添加一些压缩的感知上下文是有帮助的。

首先，需要注意的是，所谓0规范 -the基数函数，或非零值的数量 -is 不是一个常态。最好将它写成的东西，但最随意的情况。别误会我的意思，当您使用速记时，您会处于良好的状态，但我确实认为这容易引起混乱。$\|x\|_0$$x$$\mathop{\textbf{card}}(x)$$\|x\|_0$

人们早已知道，使范数最小化往往会产生稀疏解。有一些理论上的原因与线性互补有关。但是，最有趣的是，解决方案不是稀疏的，而是通常是最稀疏的。也就是说，在某些有用的情况下，最小化确实可以为您提供最小基数的解决方案。（当最小基数问题是NP-hard问题时，他们是如何解决的？通过使用已知的稀疏解构造人工问题。）这不是线性互补理论可以预测的。$\ell_1$$\|x\|_1$$\|x\|_1$

压缩感知的领域诞生了，当研究人员开始确定的矩阵条件，让他们以保证提前了解决方案也是稀疏。例如，参见Candés，Romberg和Tao的最早论文，以及有关Restricted isometry property或RIP的其他讨论。如果您真的想深入了解一些理论，那么另一个有用的网站是Terence Tao的压缩感知页面。$A$$\ell_1$

我们希望能够解决

$\min \| x \|_{0}$

ST

$Ax=b$

但是，此问题是NP-Hard组合优化问题，当，和的大小在压缩感测中很典型时，在实践中不可行解决。可以有效解决$A$$x$$b$

$\min \| x \|_{1}$

ST

$Ax=b$

无论是从理论上（可以在多项式时间内完成），还是在计算实践中，对于压缩感知中出现的甚至相当大的问题均是如此。我们使用作为“替代”为。这具有一些直观的理由（单范数最小化倾向于使用非零项较少的解决方案），以及更为复杂的理论理由（形式为“如果具有k稀疏解则最小化将很可能找到该解决方案。” $\| x \|_{1}$$\| x \|_{0}$$x$$Ax=b$$\| x \|_{1}$

在实践中，由于数据通常是嘈杂的，因此精确约束通常用形式的约束代替。 $Ax=b$$\| Ax - b \|_{2} \leq \delta$

使用约束问题的变体形式也是很常见的，例如，我们可以最小化。$\min \| Ax - b\|_{2}^{2} + \lambda \| x \|_{1}$

对于Brians和Michaels关于与解释，我没有什么要补充的。但是由于问题似乎与压缩感测有关，所以我想补充一点：压缩感测既不是关于解决 也不是关于 压缩感知更是一种范式，可以大致表述为$\ell^1$$\ell^0$

可以从几次测量中识别出稀疏信号。

压缩感测实际上是要进行尽可能少的测量以识别某类信号中的信号。

一个吸引人的短语是：

为什么您的5兆像素相机真正测量1500万个值（每个像素三个），而仅存储约2兆字节（压缩后），则花费15兆字节的数据？
是否可以立即测量2兆字节？

可能有非常不同的框架：

• 线性测量
• 非线性的（例如“无相位”的）
• 向量数据，矩阵/张量数据
• 稀疏性只是非零的数量
• 稀疏度为“低等级”，甚至“低复杂度”）。

此外，还有更多的方法来计算稀疏解，例如匹配追踪（变量，如正交匹配追踪（OMP），正则正交匹配追踪（ROMP），CoSaMP）或基于消息传递算法的最新方法。

如果仅用或最小化来识别压缩感知，则在处理实际数据采集问题时会错过很多灵活性。$\ell^1$$\ell^0$

但是，如果只有一个人对获得线性系统的稀疏解感兴趣，则可以做一个我称之为稀疏重构的事情。