笔记本也能飞:运行chat大模型

发布时间:2024年01月22日

欢迎关注,我们专注于为IT从业者、学生和爱好者提供实用的资源和帮助。

IT开DD那点小事

互联网技术的后花园,更多访问:besthub.tech

背景

在过去的一年,ChatGPT的崛起彻底改变了我们与AI的交互方式。它不再是被动的信息提供者,而是成为了一个可以与我们自由交流、分享知识的伙伴。无论是生活中的琐事,还是工作中的难题,ChatGPT都能给出有价值的建议和信息。

同时,ChatGPT也在各个领域引发了深远的变革。在教育领域,ChatGPT可以为学生提供个性化的辅导,帮助他们理解复杂的概念。在商业领域,ChatGPT可以协助员工进行市场调研、数据分析等工作,提高工作效率。在娱乐领域,ChatGPT则可以为游戏和电影创作提供无限灵感。

那作为普通开发者的我们,如何拥有一个属于自己的「ChatGPT」呢?

技术选型

  • ??服务器:个人笔记本,Apple M1 Pro,32 GB版本

  • ??模型:shibing624/chinese-alpaca-plus-13b-pth(https://huggingface.co/shibing624/chinese-alpaca-plus-13b-pth

  • ? Chat界面:LlamaChat(https://github.com/alexrozanski/LlamaChat

安装步骤

shibing624/chinese-alpaca-plus-13b-pth模型

介绍

图片

image.png

本模型是 decapoda-research/llama-13b-hf 底座模型 合并 ziqingyang/chinese-llama-plus-lora-13b 和 ziqingyang/chinese-alpaca-plus-lora-13b 两个LoRA权重, 并转化为PyTorch版本权重(.pth文件),可以直接使用或者继续训练。

下载

正式下载前,需要先注册huggingface.co账号。

当无法下载模型时,请使用“镜像网站”中提供的地址。

  • ??安装依赖

pip?install?-U?huggingface_hub
  • ??下载模型

huggingface-cli?download?--token?hf_***?--resume-download?--local-dir-use-symlinks?False?shibing624/chinese-alpaca-plus-13b-pth?--local-dir?shibing624/chinese-alpaca-plus-13b-pth
  • ??镜像网站???

镜像网站:https://hf-mirror.com/,具体内容见网页详情。

LlamaChat

介绍

图片

image.png

LlamaChat是一款MacOS应用程序,可以让你用LLaMA、Alpaca 、 GPT4等模型进行聊天。

下载
  • ??最新版本的LlamaChat,链接:https://github.com/alexrozanski/LlamaChat/releases

安装

图片

image.png

配置

图片

image.png

图片

image.png

聊天

图片

image.png

总结

与所有技术一样,ChatGPT也引发了一些担忧和争议。人们担心AI的发展会取代人类的工作,或者导致信息泛滥、假消息传播等问题。但这些担忧并不应阻碍我们对AI的探索和发展。正如ChatGPT所示,AI的真正价值在于它能够帮助我们解决问题、提升生活质量,而不是替代我们。

至此,大家本地已经有了一个属于自己的「ChatGPT」,希望它在未来能够带给我们更多的惊喜和可能性。


欢迎加入我们的聊天群,这里有专业大佬为你提供有价值的建议和指导!

图片

如果你喜欢这篇文章,请点击右下角的转发、收藏、在看、点赞,让更多的人看到,感谢你的支持与分享!

文章来源:https://blog.csdn.net/m0_37567008/article/details/135749584
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。