[nlp] 下载huggingface代码的预训练数据时会自动kill

发布时间:2023年12月23日

下载一份小语种训练数据时,大概有50G,自动kill。

解决办法:

????????内存申请的16G太小,应该申请比数据大小大的内存空间,于是申请了80G。

https://huggingface.co/datasets/HeNLP/HeDC4/tree/main

?内存使用率

文章来源:https://blog.csdn.net/Trance95/article/details/135155184
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。