此C函数应始终返回false，但不返回

很久以前，我在一个论坛上偶然发现了一个有趣的问题，我想知道答案。

考虑以下C函数：

f1.c

#include <stdbool.h>

bool f1()
{
    int var1 = 1000;
    int var2 = 2000;
    int var3 = var1 + var2;
    return (var3 == 0) ? true : false;
}

false自以来应始终返回var3 == 3000。该main函数如下所示：

main.c

#include <stdio.h>
#include <stdbool.h>

int main()
{
    printf( f1() == true ? "true\n" : "false\n");
    if( f1() )
    {
        printf("executed\n");
    }
    return 0;
}

由于f1()应该始终返回false，因此可以期望程序在屏幕上仅打印一个错误。但是编译并运行它之后，也会显示执行：

$ gcc main.c f1.c -o test
$ ./test
false
executed

这是为什么？此代码是否具有某种未定义的行为？

注意：我使用编译了它gcc (Ubuntu 4.9.2-10ubuntu13) 4.9.2。

如其他答案中所述，问题是您gcc未设置任何编译器选项。如果执行此操作，则默认为“ gnu90”，这是从1990年撤消的旧C90标准的非标准实现。

在旧的C90标准中，C语言存在一个主要缺陷：如果您在使用函数之前未声明原型，则默认为int func ()（其中( )表示“接受任何参数”）。这会更改函数的调用约定func，但不会更改实际的函数定义。由于大小bool和int不同，当函数被调用你的代码调用未定义的行为。

随着C99标准的发布，这种危险的废话行为在1999年得到了解决。隐式函数声明被禁止。

不幸的是，默认情况下，版本5.xx之前的GCC仍使用旧的C标准。可能没有理由将标准C之外的任何代码都编译为其他代码。因此，您必须明确告诉GCC它应将您的代码编译为现代C代码，而不是使用25年以上的非标准GNU废话。 。

通过始终将程序编译为以下方式解决此问题：

gcc -std=c11 -pedantic-errors -Wall -Wextra

• -std=c11 告诉它做出全心全意的尝试，以按照（当前）C标准（非正式地称为C11）进行编译。
• -pedantic-errors 告诉它全心全意地执行上述操作，并在编写违反C标准的错误代码时给出编译器错误。
• -Wall 意味着给我一些可能有好处的额外警告。
• -Wextra 意味着再给我一些其他的警告，可能会有所帮助。

您没有f1()在main.c中声明用于的原型，因此它隐式定义为int f1()，这意味着它是一个函数，它接受未知数量的参数并返回int。

如果int和bool的大小不同，则将导致不确定的行为。例如，在我的机器上，int是4个字节，bool是1个字节。由于该函数定义为return bool，因此在返回时会将一个字节放在堆栈中。但是，由于隐式声明int要从main.c 返回，因此调用函数将尝试从堆栈中读取4个字节。

gcc中的默认编译器选项不会告诉您它正在执行此操作。但是，如果您使用进行编译-Wall -Wextra，则会得到以下信息：

main.c: In function ‘main’:
main.c:6: warning: implicit declaration of function ‘f1’

要解决此问题，请f1在main.c中的之前添加一个声明main：

bool f1(void);

请注意，参数列表已显式设置为void，这告诉编译器该函数不接受任何参数，而空参数列表则意味着未知数量的参数。f1f1.c中的定义也应更改以反映这一点。

我认为有趣的是，Lundin出色答案中提到的尺寸不匹配实际上发生在哪里。

如果使用进行编译--save-temps，您将获得可以查看的程序集文件。下面是其中的一部分f1()做了== 0比较，并返回其值：

cmpl    $0, -4(%rbp)
sete    %al

返回部分是sete %al。在C的x86调用约定中，返回值4个字节或更小（包括int和bool）通过register返回%eax。%al是的最低字节%eax。因此，的高3个字节%eax处于不受控制的状态。

现在在main()：

call    f1
testl   %eax, %eax
je  .L2

这种检查是否整体的%eax是零，因为它认为它是测试一个int。

添加显式函数声明将更main()改为：

call    f1
testb   %al, %al
je  .L2

这就是我们想要的。

请使用以下命令进行编译：

gcc -Wall -Wextra -Werror -std=gnu99 -o main.exe main.c

输出：

main.c: In function 'main':
main.c:14:5: error: implicit declaration of function 'f1' [-Werror=impl
icit-function-declaration]
     printf( f1() == true ? "true\n" : "false\n");
     ^
cc1.exe: all warnings being treated as errors

有了这样的消息，您应该知道如何纠正它。

编辑：阅读（现在已删除）注释后，我尝试不带标志的情况下编译您的代码。好吧，这使我遇到了没有编译器警告而不是编译器错误的链接器错误。而且这些链接器错误更难以理解，因此，即使-std-gnu99没有必要，也请尝试至少继续使用-Wall -Werror它，这将为您节省很多麻烦。