张量流代码的哪一部分在GPU上运行？如何在GPU上运行大多数代码？

Question

假设我有一些python代码，并且在其中使用了一些tensorflow。现在，由于它是python代码，因此最初将在CPU上运行，但是（在设置cuda和所有设置之后），tensorflow部分将在GPU上运行。我知道在这种情况下，首先需要将数据从CPU内存复制到GPU内存，然后将结果复制回CPU内存。这是一个昂贵的过程，因此，只有在它上执行许多并行任务时，我们才能获得GPU的好处。现在，让我们看下面的代码概述：

python code lines 1

tensorflow code

python code lines 2

我的问题是这样

1. tensorflow代码的哪一部分在GPU上运行？ （就像所有具有tensorflow ops /数据类型的东西都在GPU上还是其中一些没有？）
2. 我要进行哪些更改以确保我的python代码也可以在GPU上运行？