研发日记,Matlab/Simulink避坑指南(二)——非对称数据溢出Bug

发布时间:2024年01月12日

文章目录

前言

背景

问题

排查

解决

总结


前言

????????见《研发日记,Matlab/Simulink避坑指南(一)——Data Store Memory模块执行时序Bug

背景

????????在一个嵌入式软件项目中,需要对温度传感器采集的数据进行处理。传感器温度范围是-20到180℃,原始数据是uint8型,数值范用0到200。

????????数据运算关系非常明确,数据范围变化也不大,所以采用了比较简单的处理方法,直接偏移-20,并把数据类型改成int8型,示例如下:

问题

????????按照上述示例,预想温度信号在-20到180℃之间都能正常工作,但是实际运行的结果如下:

排查

????????把数据处理算法的输入输出都打上Scope,看到两者之间并没有一直保持偏移-20的关系,示例如下:

??????? 进一步看分段的临界点是127℃,示例如下:

????????以程序员这个值的敏感度,一下就意识到是数据类型的问题。回过头来看信号类型是int8型,马上就知道是数据类型溢出了,因为int8型的可用范围是-128到127。

解决

????????调整信号的数据类型为int16型,扩大可用范围,示例如下:

????????重新运行程序,问题不再出现,Bug修复完工。示例如下:

总结

????????数据范用的Size不变,使用的数据位数不变,这个只在对称性运算中成立。

????????例如,上述例子的偏移量如果是-128,那么输出值是沿0点上下对称的,仍然使用int8就没有问题。


????????版权声明:原创文章,转载和引用请注明出处和链接,侵权必究!

????????上述例程使用的Demo工程,可以到笔者的主页查找和下载。

文章来源:https://blog.csdn.net/CSSUST/article/details/135540320
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。