OpenCV中的格式转换

发布时间:2023年12月19日

1. 前言

实际音视频开发过程芯片是做了硬件加速的,主要涉及到视频编解码。二次开发过程中需要对SDK做一定的封装使用才行。

写这篇文章的目的和硬编解码无关。 只是如无硬件转换接口的情况下如何对原始数据的转换,以便后续查看。


2. 采集到播放数据流的走向

  • 采集(IN)
    • 这里说的采集方式是摄像头的采集, 排除另外从流地址或视频文件的方式。
    • 采集一般通过USB接口或MIPI接口, 如果追求图像质量的要求,建议走MIPI, 如果追求的后期处理,快速开发, 走USB。
  • ISP
    • 如果是走的USB摄像头, 只能简单的通过V4L2的系统调用设置, 涉及到曝光,白平衡,亮度,锐度,饱和度,gamma等参数的设置。
    • 如果采集模块是MIPI, Soc芯片SDK支持ISP的图像增强3A,这个优化会更好。
  • 原始数据复用
    • 简单说数据分到多通道,每个通道赋予的业务需求不一样, 可能一个通道的数据给算法做人脸识别,另外一个通道数据作为抓拍, 第三通道做缩放, 第四通道做推流等,
    • 不同的通道可以对数据做不同的图像增强和处理。
  • 编码
    • 编译目的为了减少数据量,增大传输效率和存储效率
    • 编码一般采用H264/H265比较多
  • 解码
    • 对编码数据做解码,得到原始数据, 方便数据在显示器上渲染
  • 播放(OUT)
    • 一般为显示器

3. OpenCV中的格式转换

因为考虑实际原始数据用的比较多的是BGR/YUV之类的,通过枚举ColorConversionCodes可以发现设计这个枚举的思想。
因为有时候我们不知道要转的是yuv420sp还是yuv420p,而且不同的地方叫法都有差异,这是写这篇的重点。


3.1 RGB

比较简单, 不在叙述。

3.2 YUV

  • 这里只写YUV420的部分,YUV422,YUV444的部分类似。
  • 先看OpenCV中定义的,不得不佩服啥都考虑了, 不多不少,刚刚好。
  • 可以看到涉及到YUV的多种形态,包含NV21,NV12, YUV420sp; YV12, IYUV, I420,容易混淆。
  • 一般而言,YUV420P通常为YV12,OpenCV头文件imgproc.hpp中COLOR_YUV420p2BGR = COLOR_YUV2BGR_YV12,
//! YUV 4:2:0 family to RGB
    COLOR_YUV2RGB_NV12  = 90,
    COLOR_YUV2BGR_NV12  = 91,
    COLOR_YUV2RGB_NV21  = 92,
    COLOR_YUV2BGR_NV21  = 93,
    COLOR_YUV420sp2RGB  = COLOR_YUV2RGB_NV21,
    COLOR_YUV420sp2BGR  = COLOR_YUV2BGR_NV21,

    COLOR_YUV2RGBA_NV12 = 94,
    COLOR_YUV2BGRA_NV12 = 95,
    COLOR_YUV2RGBA_NV21 = 96,
    COLOR_YUV2BGRA_NV21 = 97,
    COLOR_YUV420sp2RGBA = COLOR_YUV2RGBA_NV21,
    COLOR_YUV420sp2BGRA = COLOR_YUV2BGRA_NV21,

    COLOR_YUV2RGB_YV12  = 98,
    COLOR_YUV2BGR_YV12  = 99,
    COLOR_YUV2RGB_IYUV  = 100,
    COLOR_YUV2BGR_IYUV  = 101,
    COLOR_YUV2RGB_I420  = COLOR_YUV2RGB_IYUV,
    COLOR_YUV2BGR_I420  = COLOR_YUV2BGR_IYUV,
    COLOR_YUV420p2RGB   = COLOR_YUV2RGB_YV12,
    COLOR_YUV420p2BGR   = COLOR_YUV2BGR_YV12,

    COLOR_YUV2RGBA_YV12 = 102,
    COLOR_YUV2BGRA_YV12 = 103,
    COLOR_YUV2RGBA_IYUV = 104,
    COLOR_YUV2BGRA_IYUV = 105,
    COLOR_YUV2RGBA_I420 = COLOR_YUV2RGBA_IYUV,
    COLOR_YUV2BGRA_I420 = COLOR_YUV2BGRA_IYUV,
    COLOR_YUV420p2RGBA  = COLOR_YUV2RGBA_YV12,
    COLOR_YUV420p2BGRA  = COLOR_YUV2BGRA_YV12,

    COLOR_YUV2GRAY_420  = 106,
    COLOR_YUV2GRAY_NV21 = COLOR_YUV2GRAY_420,
    COLOR_YUV2GRAY_NV12 = COLOR_YUV2GRAY_420,
    COLOR_YUV2GRAY_YV12 = COLOR_YUV2GRAY_420,
    COLOR_YUV2GRAY_IYUV = COLOR_YUV2GRAY_420,
    COLOR_YUV2GRAY_I420 = COLOR_YUV2GRAY_420,
    COLOR_YUV420sp2GRAY = COLOR_YUV2GRAY_420,
    COLOR_YUV420p2GRAY  = COLOR_YUV2GRAY_420,

3.2.1 YUV420{P}

YUV420P一般称plane平面模式,Y,U,V分别在三个不同平面,它是YUV标准格式,分为YU12和YV12
注意看,OpenCV中没有给出YU12,而使用COLOR_YUV2BGR_I420{android中常用叫法}和 COLOR_YUV2BGR_IYUV 对应
总结: YUV420即为YU12(I420/IYUV), YUV420P即YV12
在这里插入图片描述

3.2.2 YUV420SP

YUV420SP格式的图像阵列,首先是所有Y值,然后是UV或者VU交替存储,NV12和NV21属于YUV420SP格式,是一种two-plane模式,即Y和UV分为两个plane,但是UV(CbCr)为交错存储,而不是分为三个平面。
在这里插入图片描述

4 简单应用

  • YUV420转BGR
		cv::Mat image_src(1080*3/2, 1920, CV_8UC1, char *pyuv420_data);
		cv::Mat image_dst;
		cv::cvtColor(image_src, image_dst, cv::COLOR_YUV2BGR_I420);
  • BGR转YUV420
		cv::cvtColor(image_dst, image_src,  cv::COLOR_BGR2YUV_IYUV);

5. 关联文章

连接1: 图像叠加中文字体

文章来源:https://blog.csdn.net/nc_linux/article/details/135010623
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。