问题描述
我想使用 tensorflow 将序列数据训练到 Rnn 基本模型,并使用一些零填充。
我希望模型在训练时忽略 0 值。
我是否必须设置参数才能做到这一点?或者模型会自动忽略零吗?
谢谢,
解决方法
这不是自动的,您应该引入 Masking
来实现这一点。这意味着层如何能够知道何时忽略序列输入中的某些时间步。
可以通过三种方式介绍
- 您可以添加一个
tf.keras.layers.Masking
层 - 您可以使用
tf.keras.layers.Embedding
配置 - 您可以传递支持此参数的
mask
参数 manually when calling layers
mask_zero=True
层
有关详细信息,您可以参考 Masking and padding with Keras 指南。