《编写高质量代码:改善c程序代码的125个建议》——建议2-5:小心使用无符号类型带来的陷阱

简介:

本节书摘来自华章计算机《编写高质量代码:改善c程序代码的125个建议》一书中的第1章,建议2-5,作者:马 伟 更多章节内容可以访问云栖社区“华章计算机”公众号查看。

建议2-5:小心使用无符号类型带来的陷阱

有过面试经历的同学可能曾碰到如代码清单1-6所示的问题。

代码清单1-6 一道典型的面试示例
#include <stdio.h>
int main(void)
{
    int array[] = { 1,2,3,4,5,6 };
    int i = -1;
    if ( i <= sizeof(array))
    {
            printf(" i <= sizeof(array)\n");
    }
    else
    {
            printf(" i > sizeof(array)\n");
    }
    return 0;
}

对代码清单1-6进行初步分析可以得出,sizeof(array)的返回结果为24,而i的值为-1,因此执行语句“if ( i <= sizeof(array))”所返回的结果应该为true,即输出结果为“i <= sizeof(array)”。但实际情况并非如此,其输出结果如图1-6所示。


8ed7bcd0231abedb042fd80fea763585f8af826a

那么,究竟是什么原因导致出现这样的输出结果呢?
其实,要回答这个问题并不难。我们知道sizeof()的返回结果是size_t类型,而size_t类型是一种无符号整数类型。当有符号整数类型和无符号整数类型进行运算时,有符号整数类型会先自动转化成无符号整数类型(请特别注意这一点)。
因此,在代码清单1-6中,当 i 与sizeof(array)进行比较时,即执行语句“if ( i <= sizeof(array))”,i会自动升级为无符号整数类型。又因为i的值为-1,在它转换为无符号整数类型后就变成一个非常大的正整数(如-1在32位机器上存储为0xffffffff,而它被解释为无符号整数时就是232-1,即4294967295),远远大于sizeof(array)的返回结果24。
为了加深读者的理解,我们再来看代码清单1-7所示的这个例子。
代码清单1-7 无符号类型运算示例
#include<stdio.h>
int main(void)
{
    int a = 3;
    unsigned int b = 4;
    printf("%d\n", a - b);
    printf("%u\n", a - b);
    printf("%d\n", (a - b) >> 1);
    return 0;
}

在代码清单1-7中,当执行语句“a-b”时,变量a会自动由int类型转换为unsigned int类型,再与变量b执行减法运算(即“a-b”),“a-b”的运算结果为0xffffffff。当程序使用“%d”(有符号十进制整数)格式输出时,0xffffffff被转换为-1;当程序使用“%u”(无符号十进制整数)格式输出时,0xffffffff被转换为4294967295;最后,程序执行“0xffffffff >>1”运算时,其运算结果为0x7fffffff。当程序使用“%d”(有符号十进制整数)格式输出时,0x7fffffff被转换为2147483647。代码清单1-7的输出结果如图1-7所示。


<a href=https://yqfile.alicdn.com/e372ae0615b323a6331a3f91591d052299565055.png" >

由上面两个例子可以看出,将有符号类型与无符号类型混合使用是很危险的。因此,我们一定要小心这个数据转换陷阱,尽量少在代码中使用无符号类型,以免增加不必要的复杂性。尤其是不要仅仅因为无符号数不存在负值而用它来表示某些数量(如年龄、人口等无负数的值)。建议尽量使用像int这样的类型,这样在设计升级混合类型的复杂细节时,就不必担心边界情况了(比如不用担心-1被翻译为非常大的正整数)。如果必须使用无符号类型,则应该在表达式中使用强制类型转换,使操作数均为有符号类型或者无符号类型,这样就不必由编译器来选择结果的类型,从而避免存在潜在错误的可能性。比如,我们可以通过强制转换将代码清单1-6 改写为代码清单1-8。
代码清单1-8 代码清单1-6的解决方法
#include <stdio.h>
int main(void)
{
    int array[] = { 1,2,3,4,5,6 };
    int i = -1;
    if ( i <= (int)sizeof(array))
    {
            printf(" i <= sizeof(array)\n");
    }
    else
    {
            printf(" i > sizeof(array)\n");
    }
    return 0;
}

在代码清单1-8中,我们将语句“ if ( i <= sizeof(array))”改成“if ( i <= (int)sizeof(array))”,也就是通过强制类型将其转换成int类型,因而程序的输出结果为i <= sizeof(array)。

相关文章