如何在 colab 中加载巨大的数据集以转换为 spacy JSON?

问题描述

我有一个包含 6500 万个 IOB 格式条目的数据集。 因此,在使用以下命令将其转换为 spacy 二进制格式时:

!python -m spacy convert /content/train.tsv /content/ -s -c ner

colab 将显示tcmalloc:大分配...... ^C

能否请您给我一些规避​​此问题的方法。我在 colab 方面没有很多经验,也没有对数据科学概念的深刻了解。任何参考也可以。

是否可以获取每个文件,然后制作其二进制文件并合并存在这样的内容

谢谢!

解决方法

暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!

如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@)

相关问答

Selenium Web驱动程序和Java。元素在(x,y)点处不可单击。其...
Python-如何使用点“。” 访问字典成员?
Java 字符串是不可变的。到底是什么意思?
Java中的“ final”关键字如何工作?(我仍然可以修改对象。...
“loop:”在Java代码中。这是什么,为什么要编译?
java.lang.ClassNotFoundException:sun.jdbc.odbc.JdbcOdbc...