温馨提示:文本由机器自动转译,部分词句存在误差,以视频为准
00:00
全民AI时代大模型,客户端和服务端的实时通信到底用什么协议?本文将分享SSZ和web socket这两个AI大模型应用的标配网络通信协议,一起重新认识下这两位新时代里的老朋友。Ez, 它的主要特点是高效的单向通信、低延迟、轻量协议2、web socket, 它的主要特点是全双工通信、持久连接、低延迟。2、传统web端网络通信协议是什么?上图从API管理的视角看不同类型的网络通信协议。这里我们以TLS1.3为例,通过一张图了解下HTTPS在客户端和服务端之间的握手过程。SZ的通信原理如图,1、客户端发起SSC连接,2、服务器返回HTTP响应。3、服务器推送数据流,4、客户端处理数据,5、连接关闭或错误处理。Web socket的通信原理如图,1,客户端发起web socket握手请求,2、服务器返回web socket握手响应。3、web socket连接建立,4、数据传输杠杠连接关闭。
01:13
这里我们通过一张表来比对下各个协议的特点。总结来看,HTTP1点适合传统网页和简单API请求,但性能较低,HTTP2适合现代高性能网页,解决了HTTP1.1的对头阻塞问题,SS1适合服务器主动推送实时数据的场景,如一问一答的大模型应用,Web socket适合需要双向实时通信列场景,如在线游戏、多人协作、实时性要求更高的大模型应用场景,随时可以打断生成过程进行追问的场景,例如大模型实时辩论平台。
我来说两句