我使用的是grpc.aio.server,我遇到了一个问题,如果我试图对我的服务进行负载测试,它会有一些请求延迟10秒,但是请求是相似的。负载是稳定的(200 are ),几乎所有请求的延迟几乎相同。我可以有更高的延迟,只要它稳定。我试着搜索类似异步任务优先级之类的内容,但在我看来,这意味着等待很长时间的任务的优先级出现了问题,但它们已经完成,或者整个请求任务等待了很长时间。
例如,向gRPC服务发送了1000个请求,它们都具有相同的执行逻辑、相同的db实例、对db的相同查询、从db获得结果的相同时间等等,一切都是一样的。我看到,例如第10次请求延迟是10秒,而第13次请求延迟是5秒。我还可以