如何在tf.estimator的input_fn中使用tf.data的可初始化迭代器?

问题描述

从TensorFlow 1.5开始,可以input_fn返回a tf.data.Dataset,例如:

def input_fn():
  dataset = tf.data.TextLineDataset("test.txt")
  # map, shuffle, padded_batch, etc.
  return dataset

请参阅c294fcfd

对于以前的版本,您可以在tf.GraphKeys.TABLE_INITIALIZERS集合中添加迭代器的初始化程序,并依赖认的初始化程序。

tf.add_to_collection(tf.GraphKeys.TABLE_INITIALIZERS, iterator.initializer)

解决方法

我想使用来管理我的培训,tf.estimator.Estimator但是将其与tf.dataAPI一起使用时遇到了一些麻烦。

我有这样的事情:

def model_fn(features,labels,params,mode):
  # Defines model's ops.
  # Initializes with tf.train.Scaffold.
  # Returns an tf.estimator.EstimatorSpec.

def input_fn():
  dataset = tf.data.TextLineDataset("test.txt")
  # map,shuffle,padded_batch,etc.

  iterator = dataset.make_initializable_iterator()

  return iterator.get_next()

estimator = tf.estimator.Estimator(model_fn)
estimator.train(input_fn)

由于我无法在make_one_shot_iterator用例中使用a
,因此我的问题是其中input_fn包含应在其中初始化的迭代器model_fn(在这里,我用于tf.train.Scaffold初始化本地操作)。

另外,我知道我们不能只使用input_fn = iterator.get_next其他操作,而不会将其他操作添加到同一图形中。

初始化迭代器的推荐方法是什么?