Lava多模态大模型调试(基于vscode框架)

前言

之前博客这里介绍LLava1.5多模态大模型的安装、训练、预测等。但对于你想查看源码或多或少都有些麻烦，也不利于代码调试。基于此，本文是一篇基于vscode框架调试llava大模型的教程。

一、整体概括

我是在一张4090显卡调试llava代码，使用vscode编译器调试。我之所以能调试是我更改llava层，如下图。至于，你想了解环境安装或数据处理等，请参考我之前博客这里。本文是大致说明vscode调试代码。

二、launch.json文件配置

之前，一直不太会使用vscode配置大模型训练与预测参数，但你掌握了其launch.json配置，你将会觉得简单。你想了解详细，也可参考我的博客这里，而llava模型配置如下：

{
   
   
    "version": "0.2.0",
    "configurations": [

        
        {
   
            "name": "finetune_llava_lora",
            "type": "python",
            "request": "launch",
            //"python": "/home/miniconda3/envs/dp/bin/python", // 指定python解释器
            "program": "/home/anaconda3/envs/llava/bin/deepspeed",
            "console": "integratedTermina