1分钟快速将智能聊天机器人接入国产ChatGLM开源模型
1分钟快速将智能聊天机器人接入国产ChatGLM开源模型
“ 了解如何在短短1分钟内，让智能聊天机器人与国产ChatGLM开源模型无缝连接，为你的应用增添智能交流能力！”
01
—
昨天发布ChatGPT微信助手体验群后，见《ChatGPT 微信助手上线！问答更便捷，功能持续升级中。》，有不少朋友进群体验。
朋友们问了很多有意思的问题，也有请助手帮忙处理工作上的事，甚至还有数学题，简直是要累死ChatGPT机器人的节奏。
- “有一列数：32、54、98、1716⋯它有一定的规律性. 若把第一个数记为 a₁， 第二个数记为 a₂， ……第 n个数记为aₙ, 则(a1+a2+a3+⋯+a2020)的值是多少？”
- “简要说明《红楼梦》各章回的内容”
- “假设你是外贸公司的业务员，现在需要催促客户尽快安排发货，要求客户在1个月之前发货，否则收取每个月100美元的仓储费。请用英语书写正式的法律书信格式文本完成。”
- “变幅载荷下的疲劳可靠性评估方法主要应用在飞机什么结构上”
- “你是怎么知道当前乌克兰和俄罗斯有冲突的？”
- “假设你是东欧问题专家，请阐述俄罗斯和乌克兰战争的起因，经过和结果。”
- “请你帮忙写一封关于给客户账期的邮件，首先感谢客户在过去4年的支持并配合，接下来说明针对单一一个品种订单的账期由原先的见提单支付，升级为“货物上船后30天内付清尾款”。要情真意切。”
想进群体验的朋友可以扫下面的二维码进群：
因为ChatGPT的知识截止日期是2021年9月1日，而且没有实时的数据访问权限。像“能提供2020年恒大地产的销售数据吗？” 这类关于实时的问题就无法回答。
群里的朋友就提供了ChatGLM的回答截图，表明GLM就可以回答。
国内清华和智谱合作的开源大模型：ChatGLM，下面几篇文章是有关于这个国产之光产品的体验和实施部署。
ChatGLM 更新：LongBench—评测长文本理解能力的数据集，支持 32k 上下文的 ChatGLM2-6B-32K
工程落地实践｜基于 ChatGLM2-6B + LangChain 搭建专属知识库初步完成
工程落地实践｜国产大模型 ChatGLM2-6B 阿里云上部署成功
激发了我试试接入ChatGLM 开放 API的念头。
02
—
轻车熟路打开智谱AI开放平台官网：
https://open.bigmodel.cn/
开放平台提供三个模型：Pro、Std、Lite，分别对应三种不同场景。Lite 最便宜，Pro 效果最好。
创建 API Key
点右上角小人图标，选择“个人账号”，再点击“API keys”，“添加新的API key”，给key起一个名称，就完成了API key 的创建。
官方提供了 SDK 和原生 HTTP 来实现模型 API 的调用。用SDK的编程体验比较好。
安装SKD包：
pip install zhipuaiChatGLM 的对话 prompt 调用跟 ChatGPT 类似，也是分了 role 角色。
import zhipuai
zhipuai.api_key = "your api key"
response = zhipuai.model_api.sse_invoke(
model="chatglm_lite",
prompt=[
{"role": "user", "content": "你好"},
{"role": "assistant", "content": "我是人工智能助手"},
{"role": "user", "content": "你叫什么名字"},
{"role": "assistant", "content": "我叫chatGLM"},
{"role": "user", "content": "你都可以做些什么事"},
]
)把调用ChatGPT换成ChatGLM就可以切换后面回答问题的大模型了。
看来上次的开发计划任务又可以添加一条：增加对ChatGLM模型调用的支持。
账号注册后，官方送了18元用于API调用的支持，用完了就得付费了。
但是没看到任何关于费用支出的明细，例如是一个token多少费用？经朋友提醒0.01元 / 千tokens
参考文章
ChatGLM 开发文档
https://open.bigmodel.cn/dev/api
阅读推荐：
一键开启ChatGPT“危险发言”！研究发现：AI聊天机器人竟有“大bug”，目前无法修复
腾讯云开发者
