np.mean和tf.reduce_mean有什么区别？

Question 1

accuracy = tf.reduce_mean(tf.cast(correct_prediction, "float"))

tf.cast基本上改变了对象的张量类型，但是tf.reduce_mean和之间有什么区别np.mean？

这是有关的文档tf.reduce_mean：

reduce_mean(input_tensor, reduction_indices=None, keep_dims=False, name=None)

input_tensor：张量减少。应为数字类型。

reduction_indices：要缩小的尺寸。如果None（默认）减小所有尺寸。
# 'x' is [[1., 1. ]]
#         [2., 2.]]
tf.reduce_mean(x) ==> 1.5
tf.reduce_mean(x, 0) ==> [1.5, 1.5]
tf.reduce_mean(x, 1) ==> [1.,  2.]

对于一维矢量，它看起来像np.mean == tf.reduce_mean，但我不了解tf.reduce_mean(x, 1) ==> [1., 2.]。tf.reduce_mean(x, 0) ==> [1.5, 1.5]的意思是合理的，因为的意思是[1, 2]和[1, 2]是[1.5, 1.5]，但是这是怎么回事tf.reduce_mean(x, 1)？

Question 2

的功能numpy.mean和tensorflow.reduce_mean是相同的。他们做同样的事情。在文档中，对于numpy和tensorflow，您可以看到。让我们看一个例子，

c = np.array([[3.,4], [5.,6], [6.,7]])
print(np.mean(c,1))

Mean = tf.reduce_mean(c,1)
with tf.Session() as sess:
    result = sess.run(Mean)
    print(result)

输出量

[ 3.5  5.5  6.5]
[ 3.5  5.5  6.5]

在这里您可以看到axis（numpy）或reduction_indices（tensorflow）为1时，它将计算（3,4）和（5,6）和（6,7）1的均值，因此定义了在哪个轴上计算均值。当它为0时，将通过（3,5,6）和（4,6,7）计算平均值，依此类推。希望您能明白。

现在它们之间有什么区别？

您可以在python的任何位置计算numpy操作。但是为了进行张量流操作，必须在张量流内部进行Session。您可以在此处了解更多信息。因此，当您需要对tensorflow图（或结构）进行任何计算时，必须在tensorflow内部进行Session。

让我们看另一个例子。

npMean = np.mean(c)
print(npMean+1)

tfMean = tf.reduce_mean(c)
Add = tfMean + 1
with tf.Session() as sess:
    result = sess.run(Add)
    print(result)

我们可以像平常那样增加1in的均值numpy，但是要在tensorflow中进行均值化，您需要在中执行Session，而无需使用Session您不能这样做。换句话说，当您在计算时tfMean = tf.reduce_mean(c)，tensorflow不会对其进行计算。它仅在中计算Session。但是，当您编写时，numpy会立即进行计算np.mean()。

我希望这是有道理的。

Question 3

这里的关键是来自函数编程的一个概念reduce，它使TensorFlow中的reduce_mean可以保持一批输入的计算结果的运行平均值。

如果您不熟悉函数式编程，这似乎很神秘。因此，首先让我们看看reduce的作用。如果给您一个类似[1,2,5,4]的列表，并被告知要计算平均值，那很容易-只需将整个数组传递给np.mean即可得到平均值。但是，如果您必须计算数字流的均值怎么办？在这种情况下，您必须首先通过读取流来组装数组，然后在结果数组上调用np.mean-您将不得不编写更多代码。

一种替代方法是使用reduce范式。例如，看看如何在python中使用reduce来计算数字的总和： reduce(lambda x,y: x+y, [1,2,5,4])。

它是这样的：

步骤1：从清单中读取2位数字-1,2。评估lambda 1,2。reduce存储结果3。注意-这是从列表中读出2位数字的唯一步骤
步骤2：从列表中读取下一个数字-5。评估lambda 5、3（3是步骤1的结果，表示减少了存储）。减少存储结果8。
步骤3：从列表中读取下一个数字-4.评估lambda 8,4（8是步骤2的结果，减少了存储的值）。减少存储结果12
步骤4：从列表中读取下一个数字-没有数字，因此返回存储的结果12。

在此处阅读更多内容Python中的函数式编程

要了解这如何应用于TensorFlow，请查看以下代码块，该代码块定义了一个简单的图形，该图形接受一个浮点数并计算均值。但是，图形的输入不是单个浮点数，而是一个浮点数数组。reduce_mean计算所有这些浮点数的平均值。

import tensorflow as tf


inp = tf.placeholder(tf.float32)
mean = tf.reduce_mean(inp)

x = [1,2,3,4,5]

with tf.Session() as sess:
    print(mean.eval(feed_dict={inp : x}))

当计算成批图像的值时，此模式非常有用。查看The Deep MNIST Example，在该示例中您将看到如下代码：

correct_prediction = tf.equal(tf.argmax(y,1), tf.argmax(y_,1))
accuracy = tf.reduce_mean(tf.cast(correct_prediction, tf.float32))

Question 4

新文档说明tf.reduce_mean()产生的结果与np.mean相同：

相当于np.mean

它也具有与np.mean绝对相同的参数。但这是一个重要的区别：它们仅在float值上产生相同的结果：

import tensorflow as tf
import numpy as np
from random import randint

num_dims = 10
rand_dim = randint(0, num_dims - 1)
c = np.random.randint(50, size=tuple([5] * num_dims)).astype(float)

with tf.Session() as sess:
    r1 = sess.run(tf.reduce_mean(c, rand_dim))
    r2 = np.mean(c, rand_dim)
    is_equal = np.array_equal(r1, r2)
    print is_equal
    if not is_equal:
        print r1
        print r2

如果您要删除类型转换，则会看到不同的结果

在附加到这一点，许多其他tf.reduce_的功能，例如reduce_all，reduce_any，reduce_min，reduce_max，reduce_prod产生相同的值作为有numpy的类似物。显然，由于它们是操作，因此只能在会话内部执行。

Question 5

1通常指行，2通常指列。减少“过度”索引1意味着减少按行。

[1., 2.]就是[ <row 1 mean> , <row 2 mean> ]。

此索引编号约定在统计软件（尤其是R）中很常见。