为什么AMD在GPU板上放置SSD会大大减少延迟？

AMD最近发布了一个有趣的Radeon Pro主板，上面装有几个M2 SSD。

正如一些更详细的故事（例如，此处或此处）所指出的那样，好处可能主要不是来自高带宽（M2仅在4个PCIe通道上，因此板子自己的16通道连接器应该有更多），但是低延迟。 这个故事包括声称“这将使内存访问延迟降低10倍”。

我的问题基本上是：为什么GPU板上连接PCIe的SSD的延迟要比访问系统PCIe总线上的主系统RAM或存储设备的GPU的延迟显着减少？“阻碍”的主系统有什么用，意味着板载SSD可以以更快的速度访问？

从外行的角度回答（我不是硬件专家，但我建立了自己的计算机），我会使用获取一些食材烹饪食物的情况进行类比。

使用“主系统” RAM /存储就像您在寻找一种成分，而不是在橱柜中找到它，然后说到邻居那里询问是否有这种成分。事实证明他们这样做。他们给您带来了，感谢您并返回您的房子并使用它。

使用“机载” RAM /存储就像在寻找一种成分，在橱柜中找到它，然后使用它。

借助板载RAM /存储，GPU只需要做较少的工作即可获得所需的信息。在物理上以及在考虑信息需要通过的硬件和软件数量时，信息也更加接近。使用板载RAM /存储，GPU只需要查找信息所在的位置，然后从RAM /存储中检索该信息，然后通过大约几英寸的导线传输到GPU的处理单元。

使用主系统RAM /存储，信号传输线之间的距离更大，尽管可能只有一秒的微小时间，但仍可以累计成千上万次调用来检索信息。此外，所有不同的部分都相互关联，存在更多潜在的瓶颈。

最后，借助板载RAM /存储，AMD可以优化系统，因为他们可以精确控制所使用的硬件。这就像苹果公司如何根据其Mac计算机定制Mac OS一样。