在最近项目中,遇到了不用类型变量之间做运算后,对结果进行比较结果可能错误的问题。
具体如下:
int a = 111;
unsigned int b = 222;
if (a-b>2) {
}
在上述例子中,a-b= -111,但是if判断里面a-b>2为true值。
而实际上需求应该是 -111 < 2,造成结果错误。
在C++中,进行 int 类型减去 unsigned int 类型的操作时,会发生整数提升和带符号整数溢出的问题。
整数提升指在进行运算时,较小的整数类型会被提升为较大的整数类型。在这个情况下,int 会被提升为 unsigned int。然后,由于 unsigned int 是无符号类型,它不支持负值,因此在减法操作中可能导致溢出。
在该问题中,由于a是int类型,b是 unsigned int 类型,a-b运算结果会变为 unsigned int类型,不支持赋值。
1、建议使用同一种类型,比如int类型进行运算和比较