14
如何防止张量流分配GPU内存的总量？
我在共享计算资源的环境中工作，即，我们有几台服务器计算机，每台服务器计算机都配备了一些Nvidia Titan X GPU。 对于中小型型号，Titan X的12 GB通常足以让2-3个人在同一GPU上同时进行训练。如果模型足够小，以至于单个模型无法充分利用GPU的所有计算单元，那么与运行一个训练过程之后再执行另一个训练过程相比，这实际上可以提高速度。即使在同时访问GPU确实减慢了单个训练时间的情况下，具有让多个用户同时在GPU上进行训练的灵活性仍然很好。 TensorFlow的问题在于，默认情况下，它在启动时会分配全部可用的GPU内存。即使对于小型的两层神经网络，我也看到所有12 GB的GPU内存都已用完。 如果有人知道这足以满足给定模型的需求，是否有办法使TensorFlow仅分配4 GB的GPU内存？