大模型实战营Day1 书生·浦语大模型全链路开源体系

?1.大模型为发展通用人工智能的重要途经

专用模型：针对特定任务解决特定问题
通用大模型：一个模型对应多模态多任务
?2.InternLM大模型开源历程

3.InternLM-20B大模型性能

4.从模型到应用：智能客服、个人助手、行业应用

5.书生浦语全链条开源开放体系

6.数据

书生万卷（文本、图像文本、视频）

?OpenDataLab(提供智能标注工具)

7.预训练:InterLM-Train(全面)

8.微调：XTuner(高兼容)

部分参数微调LoRA：固定已有参数，加入新参数进行微调。

显存优化：最低支持8GB显卡（2080、4060）-7B模型微调

自动优化加速

适配多种开源生态

多种微调算法
9.测评：OpenCompass

全球领先的大模型开源评测体系

平台架构

特点:丰富模型支持、丰富的API、分布式评测能力、便捷的数据集接口构建自己的数据集、快速迭代、用户遍布。

10.部署

大语言模型特点 技术挑战 部署方案

LMDeploy全流程解决方案：模型轻量化 推理和服务

推理性能遥遥领先

11.智能体应用

大模型驱动智能体
智能体以大模型为核心，进行调用、规划、推理和执行。

轻量级智能体框架Lagent

多模态智能体工具箱AgentLego