用Gradio做一个ai-chat应用

发布时间:2024年01月11日

背景

上半年国内的大模型还没遍地开花的时候,笔者花巨资购了两台云服务器及给OpenAI充了20$,给身边的亲友给做了一个可使用的ai-chat。

代码实现

起先笔者 基于openai的api接口文档 API Reference - OpenAI API ,自己编写web后台,找朋友做界面,做出了一个版本。

后来Gradio发布了 ChatInterface() 方法,事情又变得简单了许多,实现一个带界面的ai-chat应用,只需要如下代码:

运行代码后,通过浏览器访问,效果如下:

问题解决

权限控制

由于笔者提供的ai-chat服务,是一个公网可访问的界面。为了简单对访问权限进行控制,笔者参考官方提供的样例 Gradio Examples Docs 给lanuch()方法,传入auth参数,设置了访问应用所需的账户、密码。

api调用

其实这个小应用的完成,最大的难点是 为上述代码中的 OpenAI(base_url="https://xxxxx/v1/") 设置一个可调通的API地址。由于一些特殊原因,我们是无法直接调过 openai提供的服务的。

为解决这个问题,笔者是通过一台海外服务器上面的nginx实现的服务连接。这里就不展开讲了,nginx配置示例如下:

文章来源:https://blog.csdn.net/chenxy02/article/details/135537157
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。