如何将计数向量化器添加到简单 RNN 模型中？

问题描述

对于我的 NLP 项目，我使用 CountVectorizer 从数据集中使用 vectorizer = CountVectorizer(stop_words='english') 和 all_features = vectorizer.fit_transform(data.Text) 从数据集中提取特征，我还写了使用 keras 的简单 RNN 模型，但我不确定如何进行填充和标记器步骤并在模型上训练数据。

我的 RNN 代码是：

model.add(keras.layers.recurrent.SimpleRNN(units = 1000,activation='relu',use_bias=True))
model.add(keras.layers.Dense(units=1000,input_dim = 2000,activation='sigmoid'))
model.add(keras.layers.Dense(units=500,input_dim=1000,activation='relu'))
model.add(keras.layers.Dense(units=2,input_dim=500,activation='softmax'))
model.compile(loss='categorical_crossentropy',optimizer='adam',metrics=['accuracy'])

return model

有人可以给我一些建议吗？

谢谢

解决方法

添加集成 - 你不计算矢量化，你使用集成

https://github.com/dnishimoto/python-deep-learning/blob/master/UFO%20.ipynb

 docs=ufo_df["summary"] #text
 LABELS=['Egg','Cross','Sphere','Triangle','Disk','Oval','Rectangle','Teardrop']
 #LABELS=['Triangle']
 target=ufo_df[LABELS]
 #print([len(d) for d in docs])
 encoded_docs=[one_hot(d,vocab_size) for d in docs]
 #print([np.max(d) for d in encoded_docs])
 padded_docs = pad_sequences(encoded_docs,maxlen=max_length,padding='post')

 #print([d for d in padded_docs])
 model=Sequential()
 model.add(Embedding(vocab_size,8,input_length=max_length))
 model.add(Flatten())
 model.add(Dense(8,activation='softmax'))
#model.compile(optimizer='adam',loss='categorical_crossentropy',metrics=['accuracy'])
 model.compile(optimizer='adam',loss='binary_crossentropy',metrics=['accuracy'])

 model.fit(padded_docs,target,epochs=50,verbose=0)