写在前面:博主是一只经过实战开发历练后投身培训事业的“小山猪”,昵称取自动画片《狮子王》中的“彭彭”,总是以乐观、积极的心态对待周边的事物。本人的技术路线从Java全栈工程师一路奔向大数据开发、数据挖掘领域,如今终有小成,愿将昔日所获与大家交流一二,希望对学习路上的你有所助益。同时,博主也想通过此次尝试打造一个完善的技术图书馆,任何与文章技术点有关的异常、错误、注意事项均会在末尾列出,欢迎大家通过各种方式提供素材。
本文关键字:腾讯云、大模型、AIGC、API调用、使用体验
说起大模型,可能感觉是一个新词,但是相信你对最近一段时间以来层出不穷的各种AIGC【AI-Generated Content】工具一定并不陌生,包括各种聊天交互问答平台,文生图,图生图,以及各种嵌入形式的智能产品,如:AI辅助编程、AI写作软件等等。
这些软件的背后,无一例外都是由大模型在支持,只是对特定场景的优化程度不同,概况来说,它是一个大规模的语言模型或深度学习语言模型,有了这个模型我们可以基于它封装出各种各样的产品。
我们只需要知道,这个模型可以根据我们的输入来给出我们需要的输出,对于客户端界面我们可以根据应用场景封装出各式各样的产品。
如果我们把大模型想象成一个超级智能的写作助手,它已经通过阅读和学习了大量的文本资料,从而学会了自然语言以及各种专业知识。于是我们可以问它各种问题,或让它帮我们写文案,编代码,或是作为一个辅助学习的有力帮手。此前,也引发了很多AI工具对各行业替代程度的讨论,以及AI所生成内容带来的一些问题,这里我们也稍微展开说明一下,让大家在使用以及了解的过程当中有一个更加全面的认识。
腾讯混元大模型(Tencent Hunyuan)是由腾讯研发的大语言模型,具备强大的中文创作能力,复杂语境下的逻辑推理能力,以及可靠的任务执行能力。
目前,我们可以通过微信小程序来直接体验腾讯混元大模型,对于开发者,也开放了API接口的申请。
目前腾讯混元大模型已经和多种产品进行了深度结合,包括文档编写、会议记录与总结、智能广告、营销文案等等。
可以访问产品首页查看演示视频:https://cloud.tencent.com/product/hunyuan
小编有幸可以参加小程序的体验尝鲜,其实自己从2022年7月开始就开始用AIGC工具,接触了很多平台和软件,虽然大部分功能都不错,但是毕竟还是不太符合国人的习惯。这次在小程序中使用也是第一次,于是各方面都鼓捣了一下:
整体的操作界面以聊天交互式为主,可以直接输入文本或使用语音输入。
值得一提的是这里显式的给出了指令集,也就相当于是给AI先安排一个角色,让它能够帮助我们更好的解决某些特定的问题,点击指令集后显示如下:
如果我们希望稍微修改指令中的描述,可以点击存为我的指令,然后我们可以编辑指令的内容、标题以及分类:
使用指令后,对应的指令内容会出现在输入框,在发送前可以最后修改,执行效果如下:
灵感发现是另外一个特色功能,内置了很多各个场景的功能:
灵感发现与指令集还是有所区别的,相当于是一个比较完整的功能,点击之后是一个特定的功能,并且会给出一些选项,然后我们再以对话的方式继续表达我们的需求:
在使用的过程中,同样有可能会碰到答案内容过长,一次无法完全回答的情况,但是此时我们只需要点击继续,会将回答内容继续延长,而不会出现一条答案被分割成两条的情况,可以说是优化的十分用心了。
点击文档中的链接,先准备好需要的APPID和SecretId、SecretKey。
首先我们在本地新建一个Anaconda环境【可以更好的区分管理依赖】或者直接新建一个Python项目,版本需要在3.x,新建一个py文件完整粘贴官方代码,同时创建一个requirements.txt放在同级目录:
brotlipy==0.7.0
sseclient-py==1.7.2
requests~=2.31.0
这里需要特别注意,sseclient-py一定要使用1.7.2版本,然后我们进入到项目路径,执行以下命令即可完成依赖的安装:
pip install -r requirements.txt
如果还缺少其它依赖可以根据提示进行安装,版本没有特别的要求。接下来只需要修改结尾main方法中的AppId、SecretId、SecretKey即可直接运行,前提是API已经正常开通:
官方案例实现之后,我们稍微做”亿点点“的修改,让它能够支持连续对话,我们可以现在输出控制台和它进行交互,并且借鉴这个思路,很容易封装成可以支持Web服务请求的封装接口,这样我们可以将其接入一些比较美观的前端界面,一个智能助手马上就可以诞生了。
# -*- coding: utf-8 -*-
# 运行环境python3
# 如果使用出错请注意sse版本是否正确, pip3 install sseclient-py==1.7.2
import time
import urllib
import uuid
import json
import requests
import sseclient
import hmac
import hashlib
import base64
_SIGN_HOST = "hunyuan.cloud.tencent.com"
_SIGN_PATH = "hyllm/v1/chat/completions"
_URL = 'https://hunyuan.cloud.tencent.com/hyllm/v1/chat/completions'
class TencentHyChat:
def __init__(self, appid, secretid, secretkey, enable_stream):
self.appid = appid
self.secretid = secretid
self.secretkey = secretkey
self.enable_stream = enable_stream
self.dialog_rounds = []
def __gen_signature(self, param):
sort_dict = sorted(param.keys())
sign_str = _SIGN_HOST + "/" + _SIGN_PATH + "?"
for key in sort_dict:
sign_str = sign_str + key + "=" + str(param[key]) + '&'
sign_str = sign_str[:-1]
hmacstr = hmac.new(self.secretkey.encode('utf-8'),
sign_str.encode('utf-8'), hashlib.sha1).digest()
s = base64.b64encode(hmacstr)
s = s.decode('utf-8')
return s
def __gen_sign_params(self, data):
params = dict()
params['app_id'] = data["app_id"]
params['secret_id'] = data['secret_id']
params['query_id'] = data['query_id']
# float类型签名使用%g方式,浮点数字(根据值的大小采用%e或%f)
params['temperature'] = '%g' % data['temperature']
params['top_p'] = '%g' % data['top_p']
params['stream'] = data["stream"]
messagestr = ""
# 数组按照json结构拼接字符串
for message in data["messages"]:
content = message["content"]
messagestr += '{"role":"' + message["role"] + '","content":"' + content + '"},'
messagestr = messagestr.strip(",")
params['messages'] = r"[{}]".format(messagestr)
params['timestamp'] = str(data["timestamp"])
params['expired'] = str(data["expired"])
return params
def __get_params(self, dialog_rounds):
timestamp = int(time.time()) + 10000
json_data = {
"app_id": self.appid,
"secret_id": self.secretid,
"query_id": "test_query_id_" + str(uuid.uuid4()),
"messages": dialog_rounds,
"temperature": 0.0,
"top_p": 0.8,
"stream": self.enable_stream,
"timestamp": timestamp,
"expired": timestamp + 24 * 60 * 60
}
return json_data
def run_chat(self):
while True:
user_input = input("You: ")
self.dialog_rounds.append({"role": "user", "content": user_input})
if len(self.dialog_rounds) > 30:
self.dialog_rounds.pop(0) # 如果对话历史超过 30 轮,删除最早的对话
request = self.__get_params(self.dialog_rounds)
signature = self.__gen_signature(self.__gen_sign_params(request))
headers = {
"Content-Type": "application/json",
"Authorization": str(signature)
}
URL = _URL
resp = requests.post(URL, headers=headers, json=request, stream=True)
if self.enable_stream == 1:
client = sseclient.SSEClient(resp)
resp = ""
for event in client.events():
if event.data != '':
data_js = json.loads(event.data)
try:
if data_js['choices'][0]['finish_reason'] == 'stop':
break
assistant_content = data_js['choices'][0]['delta']['content']
resp += assistant_content
except Exception as e:
print(e)
print(data_js)
print(f"Assistant: {resp}")
self.dialog_rounds.append({"role": "assistant", "content": resp})
else:
response_data = resp.json()
assistant_content = response_data['choices'][0]['delta']['content']
print(f"Assistant: {assistant_content}")
self.dialog_rounds.append({"role": "assistant", "content": assistant_content})
if __name__ == "__main__":
# 将AppId、SecretId、SecretKey替换为自己的即可
AppId = xxx
SecretId = "xxx"
SecretKey = "xxx"
TencentHyChat(AppId, SecretId, SecretKey, 1).run_chat()
重新封装了代码,去掉了不需要的输出,于是我们得到了交互式的体验:
整体体验下来,不得不感叹腾讯混元大模型与各应用结合的速度,同时和多个场景能够很好的结合,很符合国人的需求,并且有简单易用的小程序独立应用,而且这才只是刚刚起步。对于开发者来说,也可以快速而方便的接入,瞬间就可以将自己的产品智能化,相信混元大模型可以成为打造未来智能应用的基石!
在腾讯全球数字生态大会上,腾讯混元大模型正式亮相,并通过腾讯云对外开放,客户可以直接通过API调用,也可以将腾讯混元大模型作为基底模型,在公有云上进行精调,为不同产业场景构建专属应用。