BigQuery 到 GCS 和 GCS 到 Mysql

问题描述

我正在创建一个 Airflow 管道,我在其中使用 BigQueryOperator 查询我的 BigQuery 表并使用 BigQueryToCloudStorageOperator 将结果表作为 csv 导出到 GCS。

我需要将 csv 移动到一个 MysqL 数据库,在那里它应该作为表存储在 MysqL 数据库中。

我能否就如何实现这一点获得任何建议或想法。谢谢!

解决方法

由于您的用例是在 BigQuery 中查询数据并将数据存储在 MySql 数据库中,因此您可以使用 BigQueryToMySqlOperator

从 BigQuery 表中获取数据(或者为 选定的列)并将该数据插入到 MySQL 表中。