【不需要网络不需要显卡】本地部署GPT

发布时间：2024年01月18日

【不需要网络/不需要显卡】本地部署GPT

大家好，我是老 J

我们都知道ChatGPT目前只有两种使用方式，一种是直接去官网访问，适合个人用户；另一种是API调用，适合企业或者网站使用。这两种方式的门槛都比较高，不仅对网络有要求而且需要海外手机号。

那么有没有门槛很低的使用方式呢？今天我来介绍一种方法，这种方式不需要海外手机号、不需要网络环境，甚至不需要网络！直接把ChatGPT部署到本地！

01项目介绍

GPT4All是一个开源的本地运行的GPT模型，它不需要网络，只借助硬件来实现，而且对硬件要求不高，就算你的电脑没有显卡也可以使用CPU运行。

网址如下，官网提供三种系统的客户端

gpt4all.io/index.html

Snipaste_2023-12-27_22-22-49.png

02项目安装&运行

下载好对应版本的安装包之后就可以安装了，安装步骤非常简单，选择安装路径，其他选项默认即可，如下图。

Snipaste_2023-12-27_20-26-51.png

Snipaste_2023-12-27_20-27-13.png

Snipaste_2023-12-27_20-27-20.png

Snipaste_2023-12-27_20-29-19.png

点击上图chat.exe运行。图中1处为选择模型，2处为设置。

Snipaste_2023-12-27_20-34-40.png

下面会详细介绍选择模型，这里我们先修改下客户端的配置。下图1可以选择运行模型的硬件，如果你的电脑有独立显卡，这里优先选择显卡，如果没有显卡的话使用CPU即可。下图2表示模型存放的位置，我们下面下载好模型之后存放到这个目录下客户端就会自动识别！

Snipaste_2023-12-27_20-35-23.png

03模型介绍&演示

把官网拉到最下面会发现有很多已经训练好的模型。这里的每个模型都有介绍和硬件要求（运行内存大小），这里我比较推荐mistral模型和wizardlm模型，mistral模型比较通用，wizardlm模型可以输出很长的内容并且由北京大学参与训练，所以对中文支持更好！

Snipaste_2023-12-27_22-23-30.png

我们把模型下载好之后就可以放到上一步提到的目录下了，然后刷新页面就可以加载模型了。

Snipaste_2023-12-28_00-09-42.png

下面是对模型的测试。我分别提问了世界百科知识、让Ai作诗、理解文档内容、写代码。测试图如下。

Snipaste_2023-12-27_22-30-22.png

Snipaste_2023-12-27_22-31-10.png

Snipaste_2023-12-27_22-45-44.png

Snipaste_2023-12-27_23-01-01.png

可以看出来，回答的效果还是很不错的！大家可以根据上面的步骤来本地部署自己的GPT了！

文章来源:https://blog.csdn.net/weixin_42907150/article/details/135661306
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
最新文章