将 python flask 应用程序上下文传递给 rq 作业的正确方法

问题描述

我创建了一个 Flask 应用,它实际上是一个新闻搜索应用。它目前提供多种路由,与用于文档搜索和索引的 Elasticsearch 集成,并通过 Flask-sqlAlchemy 与 MysqL 数据库集成。

该应用应允许登录用户搜索文档/文章,此时将触发 elasticsearch 并将结果返回给用户。这一切都有效。

我现在正在构建使用 RQ 和 Ajax 启动后台异步搜索功能。现在我需要我的 RQ 来排队一个搜索调用一些 API)、更新我的数据库和更新我的 ES 索引的任务。所有这些功能都已经在我的 Flask 应用程序中构建(搜索 API 调用、配置、DB ORM、ES 接口),所以我想理想地重用所有这些。

我有一个 RQ 设置,它调用一个模块,然后尝试创建一个新的应用程序实例,这样我就可以重用现有的 DB/ES 设置,但是当代码调用时,我从 RQ 收到一个错误

File "./news_functions.py",line 14,in <module>
    from app import create_app,db
ModuleNotFoundError: No module named 'app'

应用结构如下:

project
│   project.py   
│
└───app
│   │   __init.py__
│   │   config.py
│   │   models.py
│   │   classes.py
│   │   news_functions.py
│   │   .env
│   │
│   └───main
│       │   __init__.py
│       │   forms.py
│       │   views.py
│       │   ...
│   └───static
│       │   css,etc.
│   └───templates
│       │   templates
│   
└───migrations
    │   ... DB migrations here...
└───logs
    │   ... logs stored here

在我的 views.py 文件中,我尝试使用以下行将任务排队:

        job = current_app.task_queue.enqueue('news_functions.execute_search',jobkwargs)

这导致我在烧瓶方面没有问题,但在 RQ 工作人员上引发了上述错误

File "./news_functions.py",db
ModuleNotFoundError: No module named 'app'

在 news_functions.py 文件中,我尝试创建应用程序的一个实例,以便我可以使用以下导入和设置重用我的模型等,这似乎引发了错误

from app import create_app,db

app = create_app()
app.app_context().push()

我认为问题在于我试图从应用程序文件夹本身导入 create_app 但我不知道我的其他选项是什么。如果我向上移动一个文件夹,则 RQ 作业无法将任务排队,因为它超出了应用程序的范围。

我不确定我是否以正确的方式处理此问题,但我实际上希望能够重用应用程序配置、flask-sqlalchemy、es setup 以在后台执行此附加任务。

希望有意义,有人可以提供帮助!

解决方法

在彻底理清头发后,我意识到我是从 app 目录本身而不是主目录中启动 RQ 工作程序的,这意味着它正在有效地在“app”文件夹中寻找名为“app”的模块,即 app.app.news_functions 显然不存在。

关于为什么我不能导入一个我知道存在的模块的问题,经过 2 天的学习,我得到了明确的教训!

总是检查你的工作目录,孩子们!