Azure函数应用在几秒钟后停止响应，导致超时

问题描述

我正在尝试将spark-nlp作为azure函数运行。

我有一个功能应用程序，它与docker容器一起运行。我的函数应用程序代码在python上运行，并且在其中运行pyspark的同时也安装了java。我在一个函数中使用python的flask处理传入的请求。

一旦功能应用启动并且容器正在运行，在最初的几秒钟我会收到我的API调用的响应，但是仅在几秒钟后（约15-20秒），由于服务器未响应，API调用开始超时

该功能应用程序正在专用的应用程序服务计划上运行，并设置为“始终在线”。

这种行为的原因是什么？

这是我的功能应用代码：

import logging
import azure.functions as func

# Imports for Spark-NLP
import os
import sys

sys.path.append('/home/site/wwwroot/contextSpellCheck/spark-2.4.7-bin-hadoop2.7/python')
sys.path.append('/home/site/wwwroot/contextSpellCheck/spark-2.4.7-bin-hadoop2.7/python/lib/py4j-0.10.7-src.zip')

import sparknlp
from sparknlp.annotator import *
from sparknlp.common import *
from sparknlp.base import *
from sparknlp.annotator import *

from flask import Flask,request

app = Flask(__name__)

spark = sparknlp.start()
documentAssembler =  DocumentAssembler().setInputCol("text").setoutputCol("document")
tokenizer = Recursivetokenizer().setInputCols(["document"]).setoutputCol("token").setPrefixes(["\"","(","[","\n"]).setSuffixes([".",","?",")","!","'s"])
spellModel = ContextSpellCheckerModel.load("/home/site/wwwroot/contextSpellCheck/spellcheck_dl_en_2.5.0_2.4_1588756259065").setInputCols("token").setoutputCol("checked")
finisher = Finisher().setInputCols("checked")
pipeline = Pipeline(stages=[documentAssembler,tokenizer,spellModel,finisher])
empty_ds = spark.createDataFrame([[""]]).toDF("text")
lp = LightPipeline(pipeline.fit(empty_ds))

@app.route('/api/testFunction',methods = ['GET','POST'])
def annotate():
    global lp
    if request.method == 'GET':
        text = request.args.get('text')
    elif request.method == 'POST':
        req_body = request.get_json()
        text = req_body['text']
    return lp.annotate(text)


def main(req: func.HttpRequest,context: func.Context) ->     func.HttpResponse:
    logging.info('Python HTTP trigger function processed a request.')
    return func.WsgiMiddleware(app).handle(req,context)

解决方法

可能是您正在根据每个请求创建管道。您有一个包含多种语言的堆栈，可能是其中一个库具有此功能。

请参阅https://stanfordnlp.github.io/CoreNLP/memory-time.html#avoid-creating-lots-of-pipelines中的“避免创建大量管道”一节