C++ 踩坑 int和unsigned int类型数据运算结果比较结果错误

发布时间:2024年01月23日

一、背景:

在最近项目中,遇到了不用类型变量之间做运算后,对结果进行比较结果可能错误的问题。

具体如下:
int a = 111;
unsigned int b = 222;
if (a-b>2) {
}
在上述例子中,a-b= -111,但是if判断里面a-b>2为true值。
而实际上需求应该是 -111 < 2,造成结果错误。

二、问题原因:

在C++中,进行 int 类型减去 unsigned int 类型的操作时,会发生整数提升和带符号整数溢出的问题。

整数提升指在进行运算时,较小的整数类型会被提升为较大的整数类型。在这个情况下,int 会被提升为 unsigned int。然后,由于 unsigned int 是无符号类型,它不支持负值,因此在减法操作中可能导致溢出。

在该问题中,由于a是int类型,b是 unsigned int 类型,a-b运算结果会变为 unsigned int类型,不支持赋值。

三、解决方法:

1、建议使用同一种类型,比如int类型进行运算和比较

文章来源:https://blog.csdn.net/weixin_39676449/article/details/135774092
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。