如何使用databricks集群运行气流PythonOperator?

问题描述

我在python脚本中有一个自定义函数,代表气流dag。 dag使用Pythonoperator运行此自定义函数。我希望此任务在databricks群集上运行,而不是通过本地计算运行。有可能吗?

注意 我尝试探索以下数据块运算符:

  1. DatabricksSubmitRunoperator
  2. DatabricksRunNowOperator

似乎两个运算符仅对运行databricks笔记本有用。但是,我不希望将自定义函数写在databricks笔记本中。

请让我知道是否需要更多信息?

解决方法

暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!

如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@)

相关问答

Selenium Web驱动程序和Java。元素在(x,y)点处不可单击。其...
Python-如何使用点“。” 访问字典成员?
Java 字符串是不可变的。到底是什么意思?
Java中的“ final”关键字如何工作?(我仍然可以修改对象。...
“loop:”在Java代码中。这是什么,为什么要编译?
java.lang.ClassNotFoundException:sun.jdbc.odbc.JdbcOdbc...