Questions tagged «tensorflow»

在简介中，我刚刚进行了更改 loss = tf.reduce_mean(tf.square(y - y_data)) 至 loss = tf.reduce_mean(tf.abs(y - y_data)) 模型无法得知损失随着时间的推移而变得越来越大。为什么？

10 neural-network  deep-learning  tensorflow 

我正在尝试使用预训练的模型（也在该数据集上进行训练）在Pascal VOC2012上训练Deeplabv3 +的Keras实现。 我得到了奇怪的结果，其准确度迅速收敛到1.0： 5/5 [==============================] - 182s 36s/step - loss: 26864.4418 - acc: 0.7669 - val_loss: 19385.8555 - val_acc: 0.4818 Epoch 2/3 5/5 [==============================] - 77s 15s/step - loss: 42117.3555 - acc: 0.9815 - val_loss: 69088.5469 - val_acc: 0.9948 Epoch 3/3 5/5 [==============================] - 78s 16s/step - loss: 45300.6992 …

9 python  deep-learning  keras  tensorflow 

我正在使用tensorflow编写简单的神经网络以进行一些研究，并且在训练时遇到“ nan”权重的许多问题。我尝试了许多不同的解决方案，例如更改优化器，更改丢失，数据大小等，但无济于事。最后，我注意到学习速度的变化使我的体重产生了难以置信的变化。 使用.001（我认为是非常保守的）的学习率，最小化函数实际上将成倍地增加损失。一个世纪之后，损失可能从数千个跃升至一万亿个，然后达到无穷大（'nan'）。当我将学习率降低到.0001时，一切正常。 1）为什么单个数量级会产生这种影响？ 2）为什么最小化函数实际上会执行与其功能相反的操作，并使损失最大化？在我看来，无论学习速度如何，都不应该发生这种情况。

9 machine-learning  python  tensorflow  optimization  gradient-descent 

在我的Dell Core i7-16GB RAM-4gb 960m GPU笔记本电脑上，我正在使用3d CNN对肺部CT图像进行分类的项目。我正在使用Tensorflow的CPU版本。图像准备为numpy数组大小（25,50,50）。 我的CNN模型具有2个转换层，2个maxpool层，1个FC层和输出层。通过这种架构，我可以训练大约（5000至6000）个样本的模型。添加更多层后，我的模型现在具有6个转换层，3个最大池层，FC和输出层。我的问题是在更改架构后，仅使用了1000多个样本，我的内存被填满，并且出现内存错误。我试图做较小的批次，但是每次都会出现相同的错误。我有两个问题： 为什么通过添加更多层，模型需要更多内存？ 有什么办法可以解决这类问题？

7 python  tensorflow  cnn 

我刚刚开始学习用于从CS231进行深度学习的神经网络。我正在尝试在Python中实现神经网络。我正在使用Tensorflow或scikit-learn。这些库对于此应用程序有哪些优缺点？

7 neural-network  deep-learning  tensorflow