我们可以在 DBT数据构建工具中调用任何外部 REST API 吗?

问题描述

正在进行一些分析工作,我们需要将数据从一个来源转换为另一个来源,我们正在使用 DBT 进行转换。仅可通过 REST API 使用的数据之一。所以我的问题是我们可以在 dbt 文件调用外部 API 并从其响应中提取字段。我们有东西吗?

解决方法

引自创始人的博文:"What,exactly,is dbt?",

"dbt 是 ELT 中的 T。它不提取或加载数据,但它是 非常擅长转换已经加载到您的数据中的数据 仓库。这种“加载后转换”架构正变得众所周知 作为 ELT(提取、加载、转换)。”

因此,除非您的仓库中已经有了 api 响应,否则 dbt 将无法帮助您。您可能需要一个 ELT 引擎(Stitch、Fivetran、Airflow 等)来检索和存储 API 响应。但是,如果您将 API 响应存储为 JSON 对象或嵌套字符串 - dbt 可以使用它。

这似乎有点平淡无奇,但伟大产品的魅力有时在于它专注于在某件事上真正非常出色。