问题描述
我在Cloud Run上使用gunicorn和worker类型的gthread运行Flask应用程序。在较低级别,此API只是从Datastore和Pubsub写入/检索条目,因此所有操作都很轻松。每天的流量为20,000个请求,最大QPS 20个请求,平均QPS 2
每隔几天/每周,一部分流量(25%-50%)会收到504响应,并显示以下错误:
该请求已终止,因为它已达到最大请求超时。要更改此限制,请参见https://cloud.google.com/run/docs/configuring/request-timeout
几个小时后,问题得以解决(重新部署应用程序或启动新的CR实例可立即解决问题)。那些504请求似乎甚至没有到达应用程序。该错误似乎与stderr,stdout或QPS增加中的任何错误无关。我已经设置了一些高级日志记录和云探查器,但是没有任何有用的信息。带有gunicorn同步工作程序的App Engine可以在App Engine上完美运行。唯一的区别是gunicorn设置。同步工作者在CR上的工作非常缓慢,因此我改用了gthread。
有什么想法可以在下一步看到吗?
Dockerfile
ENTRYPOINT ["gunicorn"]
CMD ["-b",":8080","--worker-class","gthread","--workers","5","--threads","2","api.app:app" ]
app.py
def run(**kwargs):
app.run(port=8080,debug=False)
app = connexion.App(__name__,specification_dir='./swagger/')
app.app.json_encoder = encoder.JSONEncoder
app.add_api('swagger.yaml',resolver=connexion.resolver.RestyResolver('api'))
app.app.config.from_object(Config)
if __name__ == '__main__':
run()
gcloud部署命令:
gcloud run deploy ${service_name} \
...
--image=${image} \
--concurrency=80 \
--memory=2Gi \
--cpu=2
...
解决方法
暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!
如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。
小编邮箱:dio#foxmail.com (将#修改为@)