通过并行减少复杂性


10

是否可以(通过使用斜线提供一个示例)通过使用并行算法来降低问题的计算复杂性,该算法不需要相对于输入大小的多个处理器?


您能澄清一下您的问题吗?数量不变的处理器->充其量您可以将运行时间缩短一个常数。我想这不是你的意思吗?
Jukka Suomela

“与输入大小无关”。你到底是什么意思?O(1)?
Aryabhata 2010年

我的意思是O(1)处理器。@Jukka:这就是我的意思,是否只能通过相对于输入大小添加多个处理器来降低计算复杂性?
尼克·拉尔森

Answers:


12

如果您的意思是O(1)处理器,则不能,无法降低计算复杂度。

简单地排列每个处理器完成的工作,然后在一个处理器上完成。如果您担心同步,那么一个处理器可以轻松地模拟它。


谢谢您的快速解答。如果不为如此紧密相关的事物再提出一个问题,是否有可能相对于输入大小以外的事物使用多个处理器来降低计算复杂性?
尼克·拉森

2
@Nick:输入大小以外的东西都是O(1):-)
Aryabhata 2010年

谢谢,我在想其他任何事情时都遇到麻烦,但是我想确定一下。
Nick Larsen)2010年

WRT是否可以通过增加数量而不是输入大小的数量增长的处理器来实现加速,所以我不确定答案是否定的。存在一些问题,其复杂度随着某些参数的不同而增加(尽管显然不是独立于输入大小)。例如,如果对于某些图形问题,我允许您使用许多与图形的树宽相关的处理器怎么办?
亚伦·罗斯

@Aaron:如果允许的处理器数量与输入有某种关系,那么是的,我们不能肯定地说“否”。当然,除非我们具体,否则这是一个毫无意义的问题。
Aryabhata

6

出现了粗粒度并行算法领域,其中运行时间(和其他计算资源消耗)通常被视为独立参数n(输入大小)和p(处理器数量)的函数,通常在自然假设n下>>页

谷歌搜索“批量同步并行”是一个很好的起点。


如果您允许硬件根据输入数据进行缩放,那么复杂度类别是否可以更改?作为外行,我很难向Google
询问


1

如果将任务分配给(其中p是一个常数)处理器。pp

那么复杂度可以是,其中c = 1 / pØFñ/pØ1个/pFñØCFñØFñC=1个/p

ŤŤ/p+小号ØË中号Ø[RËŤ一世Ë

但是,复杂性不会改变。


1

“您不能使用1个处理器进行计算,但是可以使用2个处理器进行计算。”

假设两个处理器都是TM或功能较弱的模型,这是不可能的。从Wikipedia到多带式机器:

从直觉上讲,此模型似乎比单带模型要强大得多,但是任何一台多带磁带机,无论k有多大,都可以用单带磁带机模拟,只用两倍的计算时间来模拟(Papadimitriou 1994,Thrm 2.1)。

同样对于多头机器,来自Walter J. Savitch和Paul MBVitányi的“带头多头翻唱机的线性时间模拟-头向跳动”:

本文的主要结果表明,给定一种图灵机,每台磁带有几个读写头,并且具有附加的移动移位操作“将给定磁头移动到其他给定磁头的位置”,就可以有效地构造一个图灵机。多带图灵机,每条带一个读写头,可在线性时间内对其进行仿真;也就是说,如果原始机器在时间T(n)中运行,那么对于某个常数c,模拟机器将在时间cT(n)中运行。


在这里,我们有一个很好的抽象成本示例。真实计算机(作为RM的实现)可以比TM更好地并行化。
拉斐尔

RM代表什么?如果这是一个错误类型,并且您的意思是TM,我不同意。多带/多头TM不必担心处理器通信和阿姆达尔定律。此外,我看不到计算机如何比随机访问TM更好,反之亦然,即我认为它们是等效的。
chazisop

0

可能是您正在谈论的是“并行或”(给定两个函数返回一个布尔值,告诉它们中的一个是否返回true,因为它们中的任何一个(但不是全部,都可能无法终止))它使用1个处理器,但可以使用2个处理器进行计算。

但是,这很大程度上取决于您将使用哪种计算模型,是否将流程指定为黑匣子或作为您可以自己解释的描述等。


2
除非您使用的模型非常严格,否则这似乎是错误的。单个处理器可能只是交错执行否则将在2上运行的指令,从而最多导致2x + O(1)的速度降低。我猜用``黑匣子''你是说交织是不可能的?即使这样,如果您可能终止耗时太长的黑匣子计算,仍然可以通过反复猜测每个过程所需的计算长度并将其加倍来模拟两个处理器。
亚伦·罗斯

但这又要求我们能够终止计算。我的意思是,您无法在模型中并行执行或在1个处理器上执行操作,其中您唯一可以做的就是运行计算直到完成。
jkff 2010年

现在,我明白了您的意思,但我认为它并不完整。您也不能用2来计算。如果一台机器继续运行,而另一台机器回答“是”,则答案是“是”。但是,如果返回否呢?您无法以确定性的方式进行回答,因为您不知道机器是否仍在运行或卡住(例如,停机问题)。
chazisop 2010年
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.