TFRecord encode_raw用于序列功能

问题描述

我有TFRecord格式的数据集：

def _bytes_feature(value):
    if isinstance(value,type(tf.constant(0))):
        value = value.numpy()

    return tf.train.Feature(bytes_list=tf.train.BytesList(value=[value]))

sequence_dict = {
    'frames': tf.train.FeatureList(feature=frames),"label": tf.train.FeatureList(feature=[tf.train.Feature(int64_list=tf.train.Int64List(value=[token])) for token in tokens]),}
context_dict = {
    "frames_count": tf.train.Feature(int64_list=tf.train.Int64List(value=[frames_count])),"num_tokens": num_tokens,}

sequence_context = tf.train.Features(feature=context_dict)
sequence_list = tf.train.FeatureLists(feature_list=sequence_dict)
example = tf.train.SequenceExample(context=sequence_context,feature_lists=sequence_list)

• frames是一系列112x112灰度图像，由_bytes_feature函数的结果列表表示。
• label是令牌序列。

我的任务是seq2seq，所以令牌的整个序列对应于帧的整个序列（len(frames) != len(label)）。如果这更有意义，那么这项任务就是认真阅读。

我以这种方式加载数据集：

sequence_features = {
    'frames': tf.io.FixedLenSequenceFeature([],dtype=tf.string),"label": tf.io.FixedLenSequenceFeature([],dtype=tf.int64),}
context_features = {
    "frames_count": tf.io.FixedLenFeature([],"num_tokens":  tf.io.FixedLenFeature([],}
dataset = tf.data.TFRecordDataset("train-0.tfrecord")
dataset = dataset.map(_parse_function)
dataset = dataset.padded_batch(3)

问题是，我无法正确编写_parse_function，所以我可以遍历填充tf.int8张量序列的填充批次序列，这些序列代表一个视频的帧以及批次的相应的标签。我也想避免使用VarLenFeature，因为稀疏张量在CTC loss上的GPU上无法很好地发挥作用。

这是我尝试过的：

def _parse_function(example_proto):
    context,sequence,_ = tf.io.parse_sequence_example(example_proto,context_features=context_features,sequence_features=sequence_features)
    image = tf.io.decode_raw(sequence["frames"],tf.int8)
    label = sequence["label"]

    return image,label

抛出InvalidArgumentError: DecodeRaw requires input strings to all be the same size,but element 1 has size 2444 != 2456 [[{{node DecodeRaw}}]]

将parse_sequence_example更改为parse_single_sequence_example并没有帮助，并引发相同的错误

所以问题是，我应该如何修改_parse_function以使其返回tf.int8帧序列的批次，形状为BxTxWxH，其中B是批次大小T是序列长度吗？

解决方法

暂无找到可以解决该程序问题的有效方法，小编努力寻找整理中！

如果你已经找到好的解决方法，欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@）