将MongoDB NoSQL复制到SQL表的最佳方法

问题描述

我如何将MongoDB(Nosql)复制(增量负载)到sql表。 我们有一个基于Web的解决方案,可将数据加载到MongoDB中。数据大小几乎为1TB。我们需要在Looker BI工具中执行BI报表。但是looker不直接支持MongoDB。因此,我们必须将数据复制到sql形式中,以便对目标数据库进行红移。

将Nosql解析为sql的主要要求:

  1. 父节点应该是主表
  2. 嵌套节点/数组应该是带有父键(外键)的单独表
  3. 每当在MongoDB源代码中引入新列时,它应自动开始将该新字段从任何文档复制到目标数据库
  4. 从源到目标的增量刷新。

我已经看到了符合我要求的 Stitch Data ETL ,但是我正在寻找OpenSource的任何ETL / DB工具或库。

请帮助。

解决方法

发布答案以帮助具有相同要求的其他人。

我无法获得能够完全满足上述4个要求的任何开源ETL工具。 尝试编写python代码来这样做。但是名为Precog的付费工具帮助我满足了上述所有要求,并且比Stitch Data ETL便宜一些。 谢谢