5
Dataset.map,Dataset.prefetch和Dataset.shuffle中buffer_size的含义
根据TensorFlow 文档,类的prefetch和map方法tf.contrib.data.Dataset都有一个名为的参数buffer_size。 对于prefetchmethod,该参数称为,buffer_size并且根据文档: buffer_size:一个tf.int64标量tf.Tensor,表示预取时将要缓冲的最大元素数。 对于该map方法,output_buffer_size根据文档,该参数称为和: output_buffer_size:(可选。)tf.int64标量tf.Tensor,表示将要缓冲的最大已处理元素数。 同样,对于shuffle方法,根据文档显示相同的数量: buffer_size:一个tf.int64标量tf.Tensor,表示此数据集中要从中采样新数据集的元素数。 这些参数之间有什么关系? 假设我创建一个Dataset对象,如下所示: tr_data = TFRecordDataset(trainfilenames) tr_data = tr_data.map(providefortraining, output_buffer_size=10 * trainbatchsize, num_parallel_calls\ =5) tr_data = tr_data.shuffle(buffer_size= 100 * trainbatchsize) tr_data = tr_data.prefetch(buffer_size = 10 * trainbatchsize) tr_data = tr_data.batch(trainbatchsize) buffer上面片段中的参数在扮演什么角色?