这个API回应时间正常吗？

编程问答 2022-08-11

问题描述

我目前正在用Python（Flask）编写RESTful API，其中uWsgi作为Wsgi，Nginx作为反向代理。

原理很简单：

  1. 客户端POST请求通过其主体中的一个小型JSON对象到达服务器
  2. 先通过Nginx，然后通过uWsgi，请求到达我的Python可调用对象，后者依次调用后端子进程来处理数据处理
  3. 后端数据处理全部受cpu限制，没有IO。对于单个JSON对象，服务器空闲时的原始数据处理时间约为800毫秒
  4. 后端返回原始数据，然后将其以JSON序列化，并由可调用的Python返回给uWsgi，然后返回给Nginx，最后返回给客户端

服务器具有8个单核单线程cpu 。

Nginx被配置为具有自动数量的侦听器（在这种情况下，侦听器的数量达到8个），并且总体上具有很好的香草感。

这是uWsgi配置：

[uwsgi]
strict = true
need-app = true

master = true
processes = 8
single-interpreter = true
enable-threads = false
max-requests = 1000
max-worker-lifetime = 7200
reload-on-RSS = 1024
worker-reload-mercy = 60
harakiri = 60

disable-logging = true
log-4xx = true
log-5xx = true
logto = uwsgi.log

vacuum = true

使用Jmeter（16至32个线程）运行负载测试，此API的吞吐量似乎稳定在7至8个请求/秒，每个单独的请求最多需要> 4000ms的延迟（获得响应的时间为最大负载）。在测试期间，服务器的所有8个cpu都被使用。

增加uWsgi进程的数量（固定的或具有便宜且繁忙的配置）似乎确实在损害吞吐量和延迟-在任何情况下，肯定都没有得到任何好处。

在我的硬件和软件配置下，这种行为（尤其是个人请求从800ms到4000ms的延迟暴涨）是正常的吗？还是我错过了某些东西？

解决方法

暂无找到可以解决该程序问题的有效方法，小编努力寻找整理中！

如果你已经找到好的解决方法，欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@）

latencypythonresponse-timeuwsgi