Questions tagged «linear-algebra»

题： 当矩阵密集且仅填充零和一时，是否存在用于生成有效地应用矩阵矢量乘法的代码的确定过程或理论？理想情况下，优化的代码将系统地利用先前计算的信息来减少重复的工作。 换句话说，我有一个矩阵MMM ，我想基于进行一些预计算MMM，这将在以后接收到向量v时使计算MvMvMv效率尽可能高。vvv MMM是在“编译时”已知的矩形密集二进制矩阵，而vvv是仅在“运行时”已知的未知实向量。 示例1 ：（滑动窗口） 让我用一个简单的小例子来说明我的观点。考虑矩阵 M=⎡⎣⎢⎢⎢11111111111111111111⎤⎦⎥⎥⎥.M=[11111111111111111111].M = \begin{bmatrix}1 & 1 & 1 & 1 & 1\\ & 1 & 1 & 1 & 1 & 1 \\ & & 1 & 1 & 1 & 1 & 1\\ & & & 1 & 1 & 1 & …

22 linear-algebra  matrices  program-optimization 

我一直在阅读《线性代数及其应用》以帮助理解计算机科学材料（主要是机器学习），但我担心很多信息对CS毫无用处。例如，除非您尝试编写新的方程式求解器，否则了解如何有效地求解线性方程式系统似乎没有什么用。此外，这本书还讨论了跨度，线性相关性和独立性（矩阵有逆的时候）以及它们之间的关系，但是我想不出它在CS中的任何应用。那么，CS中使用线性代数的哪些部分？

15 education  linear-algebra  didactics  mathematical-foundations 

如果我有两个矩阵AAA和BBB，分别为维度1000×21000×21000\times2和2×10002×10002\times1000，并且要计算(AB)5000(AB)5000(AB)^{5000}，则将表达式重写为A（BA）^ {4999}效率更高BA(BA)4999BA(BA)4999BA(BA)^{4999}B，然后才进行数字评估，因为ABABAB的尺寸为1000×10001000×10001000\times1000而BABABA的尺寸为2×22×22\times2。 我想解决此问题的广义版本。是否有合理有效的算法（不是蛮力）来优化包含以下内容的表达式： 已知尺寸的自由矩阵变量 任意子表达式的乘积 任意子表达式提升为自然幂 ...这样，用自由矩阵变量替换为具体的矩阵值之后，进行数字评估所需的工作最少。 该矩阵链乘积问题是我的问题的一个特例。 编辑： 这是一个暂定答案。直觉上对我来说似乎正确，但是我没有证据证明它是正确的。如果事实证明是正确的，我仍然对证明感兴趣。（当然，如果不正确，请纠正我。） 对于每个乘幂的乘积，例如（A_1 A_2 \ ldots A_k）^ n(A1A2…Ak)n(A1A2…Ak)n(A_1 A_2 \ldots A_k)^n，请考虑因子的每个循环排列： (A1A2…Ak)n(A1A2…Ak)n(A_1 A_2 \ldots A_k)^n A1(A2…AkA1)n−1A2…AkA1(A2…AkA1)n−1A2…AkA_1 (A_2 \ldots A_k A_1)^{n-1} A_2 \ldots A_k A1A2(A3…AkA1A2)n−1A3…AkA1A2(A3…AkA1A2)n−1A3…AkA_1 A_2 (A_3 \ldots A_k A_1 A_2)^{n-1} A_3 \ldots A_k ... A1A2…Ak−1(AkA1A2…Ak−1)n−1AkA1A2…Ak−1(AkA1A2…Ak−1)n−1AkA_1 A_2 \ldots A_{k-1} (A_k A_1 A_2 \ldots …

13 optimization  dynamic-programming  linear-algebra 

查找任意场的Moore-Penrose伪逆矩阵需要多少算术运算？ 如果矩阵是可逆的并且是复数值，那么它就是逆矩阵。找到逆需要时间，其中是矩阵乘法常数。它是算法简介第3版中的定理28.2。O(nω)O(nω)O(n^\omega)ωω\omega 如果矩阵具有线性独立的行或列和复值，然后伪逆矩阵，可以与计算或分别其中是共轭转置。特别是，这意味着需要时间来查找的伪逆。AAAA∗(AA∗)−1A∗(AA∗)−1A^*(A A^*)^{-1}(AA∗)−1A∗(AA∗)−1A∗(A A^*)^{-1}A^*A∗A∗A^*AAAO(nω)O(nω)O(n^\omega)AAA 对于通用矩阵，我见过的算法使用QR分解或SVD，在最坏的情况下，似乎需要算术运算。是否有使用较少运算的算法？O(n3)O(n3)O(n^3)

11 algorithms  linear-algebra 

考虑线性程序 Primal:Ax⃗ ≤b⃗ maxc⃗ Tx⃗ Primal:Ax→≤b→maxc→Tx→\begin{array}{|ccc|} \hline Primal: & A\vec{x} \leq \vec{b} \hspace{.5cm} & \max \vec{c}^T\vec{x} \\ \hline \end{array} Dual:c⃗ ≤y⃗ TAminy⃗ Tb⃗ Dual:c→≤y→TAminy→Tb→\begin{array}{|ccc|} \hline Dual: & \vec{c} \leq \vec{y}^TA \hspace{.5cm} & \min \vec{y}^T\vec{b} \\ \hline \end{array} 弱对偶定理指出，如果x⃗ x→\vec{x}和y⃗ y→\vec{y}满足约束，则 c⃗ Tx⃗ ≤y⃗ Tb⃗ c→Tx→≤y→Tb→\vec{c}^T\vec{x} \leq \vec{y}^T\vec{b}。它具有使用线性代数的简短证明： c⃗ Tx⃗ ≤y⃗ …

10 algorithms  reference-request  linear-programming  linear-algebra  duality 

我在看以下问题： 给定自然数维向量和一些输入向量，是与自然数系数的线性组合吗？v 1，… ，v m u u v iñnnv1个，… ，v米v1,…,vmv_1, \ldots, v_müuuüuuv一世viv_i 即是否有一些，其中？ Ù = 吨1 v 1 + ⋯ + 吨米v 米Ť1个，… ，t米∈ ñt1,…,tm∈Nt_1, \ldots, t_m \in \mathbb{N}u = t1个v1个+ ⋯ + t米v米u=t1v1+⋯+tmvmu = t_1 v_1 + \dots + t_m v_m 显然，此问题的实数版本可以使用高斯消除法解决。我想知道，是否已研究此问题的整数版本？有什么算法可以解决呢？ 请注意，这是使用自然数，而不是模数，因此这与中国余数定理和类似系统有些不同。另外，它似乎与Diophantine方程有关，但是我想知道在只考虑非负整数的情况下该怎么做？这也使人联想到多维子集和问题，可以使我们对每个向量进行任意数量的复制。似乎还与测试是否是生成的晶格的元素有关，除了这里我们只允许使用非负系数的线性组合。üuuv1个，… ，v米v1个，…，v米v_1,\dots,v_m 对于任何感兴趣的人，这都是通过查看Parikh向量是否在线性集中来实现的，就像Parikh定理一样。 特别是，我对一种可以仅使用自然数运算来解决问题的算法感兴趣，而不必使用实数/浮点数。

9 algorithms  reference-request  linear-algebra  integers  knapsack-problems