大模型实战营Day4 XTuner 大模型单卡低成本微调实战 作业

发布时间:2024年01月14日

按照文档操作:

单卡跑完训练:

按照要求更改微调的数据:

完成微调数据的脚本生成:

修改配置文件:

替换好文件后启动:

启动后终端如图:

用于微调的一些数据显示:

训练时间,loss:

可见模型是经过微调数据反复纠正,慢慢被引导向微调设计者所想的方向:

3个epoch完:

参数转换、合并:

更改路径为现存的参数:

用streamlit进行启动模型,开始对话:

但是有错误 ,到DDL了。

文章来源:https://blog.csdn.net/m0_72806612/article/details/135584305
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。