如何使mongoexport立即写入csv

问题描述

大约有20多个Docker容器时。其中之一是mongo:4.2.6,并且安装了mongodb-tools并远程发送mongoexport命令的nodejs应用程序将需要一些时间才能开始写入csv。

类似的东西

mongoexport -h mongodb:27017 --authenticationDatabase=admin -u username -p password -d database -c ${collection} -q "${query}" --fields=${fields} --type=csv --out=/archive/${filename} > /archive/${filename}.log 2>&1 &

查看日志

developer@ubuntu:/opt/containers$ grep "database.collection  0" volume/data/archive/1598302578607.csv.log | wc -l
1421

开始写入csv大约需要23分钟

developer@ubuntu:/opt/containers$ head -1430 "database.collection  0" volume/data/archive/1598302578607.csv.log
2020-08-24T15:18:05.949+0000    connected to: mongodb://mongodb:27017/
2020-08-24T15:18:06.949+0000    database.collection  0
...
2020-08-24T15:41:48.002+0000    database.collection  0
2020-08-24T15:41:48.949+0000    database.collection  8000
...
2020-08-24T19:09:14.436+0000    database.collection  9832000
2020-08-24T19:09:14.949+0000    database.collection  9832000
2020-08-24T19:09:15.369+0000    database.collection  9841417
2020-08-24T19:09:15.396+0000    exported 9841417 records

当即将完成导出时会发生同样的事情,这比上一次等待时间更长

developer@ubuntu:/opt/containers$ grep "database.collection  9832000" volume/data/archive/1598302578607.csv.log | wc -l
4813

有人能指出我在哪里改善csv中的mongoexport吗?

解决方法

暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!

如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@)