大模型实战营Day4 XTuner 大模型单卡低成本微调实战 作业
发布时间:2024年01月14日
按照文档操作:
单卡跑完训练:
按照要求更改微调的数据:

完成微调数据的脚本生成:

修改配置文件:
替换好文件后启动:
启动后终端如图:
用于微调的一些数据显示:

训练时间,loss:

可见模型是经过微调数据反复纠正,慢慢被引导向微调设计者所想的方向:

3个epoch完:

参数转换、合并:
更改路径为现存的参数:
用streamlit进行启动模型,开始对话:


但是有错误 ,到DDL了。
文章来源:https://blog.csdn.net/m0_72806612/article/details/135584305
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如若内容造成侵权/违法违规/事实不符,请联系我的编程经验分享网邮箱:chenni525@qq.com进行投诉反馈,一经查实,立即删除!