什么时候循环展开仍然有用？

我一直在尝试通过循环展开来优化一些对性能至关重要的代码（一种快速排序算法，在蒙特卡洛仿真中被称为百万次）。这是我要加快的内循环：

// Search for elements to swap.
while(myArray[++index1] < pivot) {}
while(pivot < myArray[--index2]) {}

我尝试展开为以下内容：

while(true) {
    if(myArray[++index1] < pivot) break;
    if(myArray[++index1] < pivot) break;
    // More unrolling
}


while(true) {
    if(pivot < myArray[--index2]) break;
    if(pivot < myArray[--index2]) break;
    // More unrolling
}

这绝对没有区别，所以我将其改回了可读性更好的形式。我尝试循环展开时也有类似的经历。鉴于现代硬件上分支预测器的质量，何时展开循环仍然是有用的优化？

如果可以打破依赖关系链，则展开循环很有意义。这使乱序或超标量CPU可以更好地安排事情，从而更快地运行。

一个简单的例子：

for (int i=0; i<n; i++)
{
  sum += data[i];
}

这里，参数的依赖关系链非常短。如果由于数据数组上的高速缓存未命中而导致停顿，则CPU只能等待。

另一方面，此代码：

for (int i=0; i<n; i+=4)
{
  sum1 += data[i+0];
  sum2 += data[i+1];
  sum3 += data[i+2];
  sum4 += data[i+3];
}
sum = sum1 + sum2 + sum3 + sum4;

可以运行得更快。如果在一次计算中遇到高速缓存未命中或其他停顿，那么仍然有三个不依赖于停顿的依赖链。故障CPU可以执行这些命令。

这些不会有什么区别，因为您进行的比较次数相同。这是一个更好的例子。代替：

for (int i=0; i<200; i++) {
  doStuff();
}

写：

for (int i=0; i<50; i++) {
  doStuff();
  doStuff();
  doStuff();
  doStuff();
}

即使这样，也几乎可以肯定不会有问题，但是您现在要进行50次比较，而不是200次（假设比较会更复杂）。

但是，手动循环展开通常是历史的产物。当重要的时候，好的编译器将为您做的事情越来越多。例如，大多数人不费心去写x <<= 1或x += x代替x *= 2。您只需编写x *= 2，编译器就会为您优化它，以达到最佳效果。

基本上，对您的编译器进行二次猜测的需求越来越少。

不管现代硬件上的分支预测如何，大多数编译器无论如何都会为您进行循环展开。

找出编译器为您进行了多少优化是值得的。

我发现Felix von Leitner的演讲对这个主题很有启发性。我建议您阅读。简介：现代编译器非常聪明，因此手动优化几乎永远无效。

据我了解，现代编译器已经在适当的地方展开了循环-例如gcc，如果传递了优化标志，则手册会说：

展开循环的迭代次数可以在编译时或在进入循环时确定。

因此，实际上，您的编译器很可能会为您完成一些琐碎的工作。因此，由您自己决定确保编译器可以轻松确定尽可能多的循环来确定需要进行多少次迭代。

循环展开（无论是手动展开还是编译器展开）通常会适得其反，特别是对于更新的x86 CPU（Core 2，Core i7）。底线：在计划将代码部署到的任何CPU上使用循环展开和不展开循环对您的代码进行基准测试。

不知不觉尝试不是做到这一点的方法。
这种花费的时间占总时间的百分比很高吗？

循环展开的所有操作都是减少递增/递减，比较停止条件和跳跃的循环开销。如果您在循环中执行的操作比循环开销本身花费了更多的指令周期，那么您就不会看到很多改进。

这是如何获得最佳性能的示例。

循环展开在特定情况下可能会有所帮助。唯一的收获就是不跳过某些测试！

例如，它可以允许进行标量替换，有效地插入软件预取...您可能会惊讶地发现，通过积极地展开它，它有多么有用（即使在使用-O3的情况下，大多数循环也可以轻松地将速度提高10％）。

如前所述，它在很大程度上取决于循环，因此编译器和实验是必需的。很难制定规则（否则编译器对展开的启发式将是完美的）

循环展开完全取决于您的问题大小。这完全取决于您的算法是否能够将大小减少到较小的工作组中。您在上面所做的事情看起来并非如此。我不确定是否可以展开蒙特卡洛模拟。

我的循环展开的好方案是旋转图像。因为您可以轮换单独的工作组。为了使它起作用，您必须减少迭代次数。

如果循环中和循环中都有很多局部变量，则循环展开仍然有用。重用那些寄存器，而不是为循环索引保存一个。

在您的示例中，您使用少量的局部变量，而不会过度使用寄存器。

如果比较繁重（例如，非test指令），尤其是如果它依赖于外部函数，则比较（到循环末尾）也是一个主要缺点。

循环展开也有助于提高CPU对分支预测的了解，但是无论如何都会发生。