大模型学习之书生·浦语大模型2——趣味Demo

发布时间：2024年01月07日

文章目录


在这里插入图片描述

Demo效果

在这里插入图片描述

目录

在这里插入图片描述

大模型及InternLM模型介绍

在这里插入图片描述
在这里插入图片描述

  • InterLM是开源的轻量级训练框架
    • InterLM-7B
    • InterLM-20B
  • Lagent是智能体框架
  • 浦语·灵笔是视觉·语言大模型

InterLM-Chat-7B智能对话Demo

在这里插入图片描述

  • InterLM-7B
    • 70亿参数
    • 数万亿token进行训练
    • 支持8K token

在这里插入图片描述

Lagent智能体工具调用Demo

在这里插入图片描述
在这里插入图片描述

浦语·灵笔图文创作理解Demo

在这里插入图片描述

  • 图文理解
  • 创作能力
  • 海量多模态数据
  • 对话能力

在这里插入图片描述

通用环境配置

在这里插入图片描述

  • pip镜像源
  • conda镜像源

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

  • 模型下载
    • huggface
    • openXlab
    • modelscope

实践

智能对话Demo

1 创建开发机

在这里插入图片描述

2 进入开发机并创建环境及安装依赖

在这里插入图片描述

3 模型下载

在这里插入图片描述

4 代码准备

在这里插入图片描述

  • 修改web_demo.py模型文件路径
5 终端运行

在这里插入图片描述

  • 新建cli_demo.py
  • bash切换到虚拟环境后再运行

在这里插入图片描述

6 web demo运行

  • 先配置本地端口
    在这里插入图片描述

  • 将rsa-key填到开发机配置那块
    在这里插入图片描述

  • 然后再在终端运行
    在这里插入图片描述
    在这里插入图片描述

Lagent智能体调用Demo

1 环境安装

与上一个demo类似
在这里插入图片描述

2 模型下载

与之前的类似

3 Lagent安装

在这里插入图片描述
使用源码安装

4 修改代码

在这里插入图片描述

  • 整个替换
  • 主要是修改模型文件
5 demo运行

在这里插入图片描述
在这里插入图片描述

浦语·灵笔图文理解创作Demo

1 环境安装

在这里插入图片描述
在这里插入图片描述

  • 机器需要40g，可以升级配置，或者新建开发机
2 创建虚拟环境

在这里插入图片描述

  • pip安装依赖
3 模型下载

在这里插入图片描述

  • 多模态模型 InterLM-XComposer
4 代码准备

在这里插入图片描述

5 终端运行

在这里插入图片描述

  • 需要根据自己实际情况将GPU参数进行修改
6 配置端口
  • 新机器配置端口，并将端口映射到本地
7 运行demo

在这里插入图片描述

  • 自动写文章
  • 自动配图并插图
    在这里插入图片描述
    在这里插入图片描述
  • 可以替换图片或者增加图片
  • 可以将文章进行保存，markdown的格式
  • 最上面是一些参数配置

在这里插入图片描述
多模态对话，问图片里的内容相关。

在这里插入图片描述

参考

文章来源:https://blog.csdn.net/uncle_ll/article/details/135440530
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
最新文章