我了解Big-O表示法,但是我不知道如何为许多函数计算它。特别是,我一直在尝试找出Fibonacci序列的朴素版本的计算复杂性:
int Fibonacci(int n)
{
if (n <= 1)
return n;
else
return Fibonacci(n - 1) + Fibonacci(n - 2);
}
斐波那契数列的计算复杂度是多少,如何计算?
我了解Big-O表示法,但是我不知道如何为许多函数计算它。特别是,我一直在尝试找出Fibonacci序列的朴素版本的计算复杂性:
int Fibonacci(int n)
{
if (n <= 1)
return n;
else
return Fibonacci(n - 1) + Fibonacci(n - 2);
}
斐波那契数列的计算复杂度是多少,如何计算?
Answers:
您可以对时间函数进行建模,以Fib(n)
作为要计算Fib(n-1)
的时间总和加上要计算Fib(n-2)
的时间再加上将它们加在一起的时间(O(1)
)。这是假设对同一对象的重复评估Fib(n)
需要花费相同的时间-即不使用记忆。
T(n<=1) = O(1)
T(n) = T(n-1) + T(n-2) + O(1)
您解决了这种递归关系(例如,使用生成函数),最后得到了答案。
或者,您可以绘制递归树,该递归树将具有深度n
并直观地指出此函数是渐近的。然后,您可以通过归纳证明您的猜想。O(2
n
)
基数:n = 1
很明显
假设,因此T(n-1) = O(2
n-1
)
T(n) = T(n-1) + T(n-2) + O(1)
等于
T(n) = O(2
n-1
) + O(2
n-2
) + O(1) = O(2
n
)
但是,正如评论中指出的那样,这并不是严格的限制。关于此功能的一个有趣的事实是,T(n)是渐近相同的值Fib(n)
,因为两者都定义为
f(n) = f(n-1) + f(n-2)
。
递归树的叶子将始终返回1。的值Fib(n)
是递归树中叶子返回的所有值的总和,该值等于叶子的计数。由于每个叶子都需要O(1)进行计算,T(n)
因此等于Fib(n) x O(1)
。因此,此功能的紧密界是斐波那契数列本身(〜)。您可以通过使用上面提到的生成函数来找出这种紧密联系。θ(1.6
n
)
只需问问自己需要多少条语句F(n)
才能完成。
对于F(1)
,答案是1
(条件的第一部分)。
对于F(n)
,答案是F(n-1) + F(n-2)
。
那么,什么功能满足这些规则?尝试n(a> 1):
a n == a (n-1) + a (n-2)
除以(n-2):
a 2 == a + 1
解决就a
得到了(1+sqrt(5))/2 = 1.6180339887
,否则称为黄金分割。
因此,它花费了指数时间。
我同意pgaur和rickerbh的观点,递归斐波那契的复杂度为O(2 ^ n)。
我得出的结论很简单,但我认为推理仍然有效。
首先,所有要弄清楚在计算第N个斐波那契数时递归斐波那契函数(从现在开始F())被调用多少次。如果它按从0到n的顺序被每个数字调用一次,则为O(n),如果被每个数字调用n次,则得到O(n * n)或O(n ^ 2),等等。
因此,当F()被调用为数字n时,在0和n-1之间的给定数字被调用F()的次数随着我们接近0而增加。
作为第一印象,在我看来,如果我们以可视的方式进行描述,则每次给定数字调用F()时绘制一个单位,湿式就会得到一种金字塔形状(即,如果我们将单位水平居中)。像这样:
n *
n-1 **
n-2 ****
...
2 ***********
1 ******************
0 ***************************
现在的问题是,随着n的增长,这个金字塔的底面会以多快的速度扩大?
让我们来看一个真实的例子,例如F(6)
F(6) * <-- only once
F(5) * <-- only once too
F(4) **
F(3) ****
F(2) ********
F(1) **************** <-- 16
F(0) ******************************** <-- 32
我们看到F(0)被调用32次,即2 ^ 5,在此示例情况下为2 ^(n-1)。
现在,我们想知道F(x)被调用了多少次,我们可以看到F(0)的调用次数只是其中的一部分。
如果我们将所有*从F(6)线到F(2)线移动到F(1)线,我们会看到F(1)和F(0)线的长度现在相等。这意味着,当n = 6为2x32 = 64 = 2 ^ 6时,调用总时间F()。
现在,就复杂性而言:
O( F(6) ) = O(2^6)
O( F(n) ) = O(2^n)
麻省理工学院对这个特定问题进行了很好的讨论。在第5页上,他们指出,如果您假设加法采用一个计算单位,则计算Fib(N)所需的时间与Fib(N)的结果紧密相关。
因此,您可以直接跳到斐波那契数列的非常接近的近似值:
Fib(N) = (1/sqrt(5)) * 1.618^(N+1) (approximately)
并因此说,朴素算法的最坏情况性能是
O((1/sqrt(5)) * 1.618^(N+1)) = O(1.618^(N+1))
您可以扩展它并进行可视化
T(n) = T(n-1) + T(n-2) <
T(n-1) + T(n-1)
= 2*T(n-1)
= 2*2*T(n-2)
= 2*2*2*T(n-3)
....
= 2^i*T(n-i)
...
==> O(2^n)
<
末尾会有一个少于字符呢?你是怎么得到的T(n-1) + T(n-1)
?
T(n-1) > T(n-2)
所以我可以更改T(n-2)
并放置T(n-1)
。我只会得到一个更高的界限,该界限仍然适用于T(n-1) + T(n-2)
证明答案是好的,但是我总是必须手动做几次迭代才能真正说服自己。因此,我在白板上绘制了一个小的调用树,并开始计算节点数。我将计数分为总节点,叶节点和内部节点。这是我得到的:
IN | OUT | TOT | LEAF | INT
1 | 1 | 1 | 1 | 0
2 | 1 | 1 | 1 | 0
3 | 2 | 3 | 2 | 1
4 | 3 | 5 | 3 | 2
5 | 5 | 9 | 5 | 4
6 | 8 | 15 | 8 | 7
7 | 13 | 25 | 13 | 12
8 | 21 | 41 | 21 | 20
9 | 34 | 67 | 34 | 33
10 | 55 | 109 | 55 | 54
立即跃出的是叶子节点的数量为fib(n)
。需要更多迭代才能注意到的是内部节点的数量为fib(n) - 1
。因此,节点总数为2 * fib(n) - 1
。
由于在对计算复杂度进行分类时会丢弃系数,因此最终的答案是θ(fib(n))
。
1
了一个累加器的Fib(n)
时间,而且有趣的是它仍然是精确的θ(Fib(n))
。
可以通过绘制递归树来更好地估计递归算法的时间复杂度,在这种情况下,绘制递归树的递归关系为T(n)= T(n-1)+ T(n-2)+ O(1)注意每一步都需要O(1)表示恒定时间,因为它只对if块中的n值进行一次比较。递归树看起来像
n
(n-1) (n-2)
(n-2)(n-3) (n-3)(n-4) ...so on
这里说上面的树的每个级别都用i表示,
i
0 n
1 (n-1) (n-2)
2 (n-2) (n-3) (n-3) (n-4)
3 (n-3)(n-4) (n-4)(n-5) (n-4)(n-5) (n-5)(n-6)
让我们说在i的特定值下,树结束了,这种情况将在ni = 1时出现,因此i = n-1,这意味着树的高度为n-1。现在让我们看一下树中n层中每层的工作量,注意每个步骤都需要O(1)时间,如递归关系所述。
2^0=1 n
2^1=2 (n-1) (n-2)
2^2=4 (n-2) (n-3) (n-3) (n-4)
2^3=8 (n-3)(n-4) (n-4)(n-5) (n-4)(n-5) (n-5)(n-6) ..so on
2^i for ith level
因为i = n-1是在每个级别完成的树工作的高度
i work
1 2^1
2 2^2
3 2^3..so on
因此,完成的总工作量将是每个级别完成的工作总和,因此由于i = n-1,它将是2 ^ 0 + 2 ^ 1 + 2 ^ 2 + 2 ^ 3 ... + 2 ^(n-1)。通过几何级数,该总和为2 ^ n,因此这里的总时间复杂度为O(2 ^ n)
由于计算的重复,斐波那契的朴素递归版本在设计上是指数的:
从根本上讲,您正在计算:
F(n)取决于F(n-1)和F(n-2)
F(n-1)再次取决于F(n-2)和F(n-3)
F(n-2)再次取决于F(n-3)和F(n-4)
那么您在每个级别都有2个递归调用,这些调用浪费了计算中的大量数据,那么time函数将如下所示:
T(n)= T(n-1)+ T(n-2)+ C,C不变
T(n-1)= T(n-2)+ T(n-3)> T(n-2)然后
T(n)> 2 * T(n-2)
...
T(n)> 2 ^(n / 2)* T(1)= O(2 ^(n / 2))
这只是一个下限,对于您的分析目的来说就足够了,但是实时函数是相同的斐波那契公式的一个常数因子,并且已知闭合形式是黄金比率的指数。
此外,您可以使用动态编程来找到Fibonacci的优化版本,如下所示:
static int fib(int n)
{
/* memory */
int f[] = new int[n+1];
int i;
/* Init */
f[0] = 0;
f[1] = 1;
/* Fill */
for (i = 2; i <= n; i++)
{
f[i] = f[i-1] + f[i-2];
}
return f[n];
}
这是经过优化的,仅执行n步,但也是指数级的。
从输入大小到解决问题的步骤数定义了成本函数。当您看到动态版本的斐波那契数(计算表格的n个步骤)或最简单的算法来知道数字是否为质数(sqrt(n)分析该数字的有效除数)。您可能会认为这些算法是O(n)或O(sqrt(n)),但由于以下原因,这确实是不正确的:您算法的输入是数字:n,使用二进制表示法将输入大小指定为整数n是log2(n)然后进行变量更改
m = log2(n) // your real input size
让我们找出步数作为输入大小的函数
m = log2(n)
2^m = 2^log2(n) = n
那么算法成本作为输入大小的函数为:
T(m) = n steps = 2^m steps
这就是成本成指数增长的原因。
通过绘制函数调用图很容易计算。只需为n的每个值添加函数调用,然后看数字如何增长。
大O为O(Z ^ n),其中Z为黄金分割率或约1.62。
随着n的增加,莱昂纳多数和斐波那契数都接近该比率。
与其他Big O问题不同,输入中没有可变性,并且算法和算法实现均已明确定义。
不需要一堆复杂的数学运算。只需画出下面的函数调用,然后将函数拟合到数字即可。
或者,如果您熟悉黄金分割率,那么您会认识到它。
这个答案比公认的答案更正确,后者声称它将接近f(n)= 2 ^ n。它永远不会。它将接近f(n)= golden_ratio ^ n。
2 (2 -> 1, 0)
4 (3 -> 2, 1) (2 -> 1, 0)
8 (4 -> 3, 2) (3 -> 2, 1) (2 -> 1, 0)
(2 -> 1, 0)
14 (5 -> 4, 3) (4 -> 3, 2) (3 -> 2, 1) (2 -> 1, 0)
(2 -> 1, 0)
(3 -> 2, 1) (2 -> 1, 0)
22 (6 -> 5, 4)
(5 -> 4, 3) (4 -> 3, 2) (3 -> 2, 1) (2 -> 1, 0)
(2 -> 1, 0)
(3 -> 2, 1) (2 -> 1, 0)
(4 -> 3, 2) (3 -> 2, 1) (2 -> 1, 0)
(2 -> 1, 0)
http://www.ics.uci.edu/~eppstein/161/960109.html
时间(n)= 3F(n)-2