yolov8 PTQ和QAT量化实战(源码详解)

文章目录

• • 1. 概述
  • • 1.1 PTQ 和QAT的量化流程
    • • 1.1.1 PTQ 量化流程
      • 1.1.2 QAT 量化流程
    • 1.2 PTQ 和QAT的优缺点
  • 2. 项目代码的使用
  • • 2.1 环境安装
    • 2.2 代码使用
  • 3. 代码详解
  • • 3.1 数据校准calibrate
    • 3.2 敏感层分析sensitive layer
    • • 3.2.1 quant模型及calib_dataloader准备
      • 3.2.2 校准模型