Tensorflow GPU使用率低

Question

我正在运行Windows 10，Core i7-8700 CPU，gtx geforce 1660 ti GPU。 在训练模型时，gpu利用率非常低（最大值为5-10％，有时更低）。 网络甚至是五层。另一方面，CPU利用率为30％或更高。

Answer 1

请检查以下内容：

1. CUDA和CuDNN版本匹配。根据统计数据，训练时很可能使用CPU而不是GPU。您可以尝试在选项2下查看GPU是否可用。

2. 如果前者解决了，则可能要增加batch_size，以防批次大小非常小。 TensorFlow可能会为您的训练预分配少量GPU。

对于步骤1，为了验证视频卡是否可用并且已使用，请使用以下代码行：

import tensorflow as tf
print("Num GPUs Available: ", len(tf.config.experimental.list_physical_devices('GPU')))

tf.debugging.set_log_device_placement(True)

# Create some tensors
a = tf.constant([[1.0, 2.0, 3.0], [4.0, 5.0, 6.0]])
b = tf.constant([[1.0, 2.0], [3.0, 4.0], [5.0, 6.0]])
c = tf.matmul(a, b)

print(c)

打印结果应包含（连同结果）以下信息：

  

在设备中执行操作MatMul   / job：本地主机/副本：0 /任务：0 /设备：GPU：0