Nginx-Ingress-Controller限制要部署的rps数

问题描述

我在高负载下提供数据时遇到了问题，如果特定部署的总rps超过一定数量，我想返回503。我一直在研究他们的速率限制，但是每个客户都有这个限制。

谢谢！

解决方法

我尝试的一种简单方法是限制该部署的资源（CPU和内存）。您还可以为该服务分离入口控制器，并为其限制资源。

或者，服务网格提供更多的自定义项，例如istio为DestinationRule对象提供ConnectionPoolSettings，这些对象可以起到类似的作用。

此外，traffic shaping还有一个实验功能，可能会有所帮助，但需要更新您的CNI配置。

---

供参考：@Dylan发现limit_req_zone的Nginx配置也可以与$host一起使用来实现。为此，（1）更新您的nginx入口控制器配置映射并添加http-snippet

data:
  http-snippet: |
    limit_req_zone $host zone=queue:10m rate=1r/s;

您可能必须重新启动控制器容器才能采用新配置。 （2）使用configuration-snippet将配置应用于Ingress：

apiVersion: extensions/v1beta1
kind: Ingress
metadata:
  annotations:
    nginx.ingress.kubernetes.io/configuration-snippet: |
      limit_req zone=queue burst=12 delay=8;
...