如何减少使用mongoimport在具有866,000个文档的集合中合并具有10 GB csv的csv的时间?

问题描述

我们有一个mongodb 3.6版数据库,其中包含866k文档和大约204.1gb的文档。该集合必须使用csv文件进行更新,并与集合的其余部分合并。为了进行插入,我使用mongoimport,并且我尝试增加了工人的数量,但也没有。

我用来导入的命令:

mongoimport --db dbmet --collection betasepics --type csv --headerline --file beta_test_partions02.csv --mode merge --upsertFields TargetID --numInsertionWorkers 4.

当我们想合并10 gb的新数据时遇到了问题。插入时间是指数的。有人可以告诉我们一些优化数据插入的方法吗?

解决方法

暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!

如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@)