gRPC 优化可处理 200 多个请求/秒

问题描述

我有 2 个通过 gRPC 连接的应用程序。 gRPC 服务器使用 this library 用 golang 编写,使用 nodejs 编写的客户端使用 this one。应用程序之间的请求数大约为 200-500/秒。这些实现使用了 grpc.io 参考文献中编写的所有服务器和客户端创建的基本方法

现在的问题是,除了具有陡峭尖峰的延迟外,一切看起来都不错,如下所示:

gRPC spikes

当请求数大约为 10-15 req/sec 时,应用程序很好。一旦计数增加,就会观察到请求的高延迟。

我已经了解了 gRPC 架构,并了解了它如何通过多路复用来处理请求,因此这可能是每隔几分钟出现峰值的原因之一。

谁能帮我拉下那些尖刺?尖峰绝对没问题,问题是请求的延迟已经超过 50 毫秒,如果我们谈论 500 个请求/秒,这是非常大的。我是否必须添加一些配置才能使其工作?请帮忙!

提前致谢!

解决方法

暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!

如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@)