云函数网络层增加gateway带宽解决qps周期性掉坑问题

【问题】

直播接口压测过程中会出现曲线掉坑，目标qps:1500,实际qps：37.54，远达不到目标。

面板截图

【排查过程】

分析接口请求路径如图：

接口请求路径图

1.首先定位猜测是自定义函数问题，但不确定。通过多压两个接口，确定是云函数问题。

2.另外通过对比不走函数的接口以及对比走网关函数插件的其他接口的性能规律发现问题是网关插件加载问题。

3.将插件中请求其他服务接口加上超时时间限制为1秒，发现前置依赖的接口也存在性能问题，前置依赖接口问题排除后，继续压测结果依然会周期波动。（云函数启动时会调用一个pod，pod需要一个加载时间，pod有限制频率）

4.与云函数团队沟通，是函数启动加载限额问题，取消限额，排查函数容器。

【总结】

云函数网络层增加gateway带宽，API网关升级版本，函数扩大预置容量和总容量上限，通过网关插件缓存解决函数容器弹性伸缩造成的性能波动。

【优化后效果】

实际qps达到1590，满足目标qps1500，曲线平稳。

优化后效果