当@tf.功能decorator将函数编译成图形？为什么它在急切模式下比那个快？

Question

根据TensorFlowdocument，@tf.function将函数编译成图形，并“使您获得更快的执行、在GPU或TPU上运行或导出到SavedModel的好处。”

文档中的示例说明了这样一个好处：

lstm_cell = tf.keras.layers.LSTMCell(10)

@tf.function
def lstm_fn(input, state):
  return lstm_cell(input, state)

input = tf.zeros([10, 10])
state = [tf.zeros([10, 10])] * 2
# warm up
lstm_cell(input, state); lstm_fn(input, state)
print("eager lstm:", timeit.timeit(lambda: lstm_cell(input, state), number=10))
print("function lstm:", timeit.timeit(lambda: lstm_fn(input, state), number=10))

输出：

^{pr2}$

“编译图”和“急切模式下的函数”有什么区别？为什么前者执行起来更快？在

Answer 1

在构建图时立即计算TF，默认情况下使用。另一方面，图形具有一定的advantages。但是，执行时间将取决于特定的代码。使用c++后端的代码越多，差异就越小。所有的开销都来自使用python解释器的eager模式下的程序。例如，基本的矩阵乘法运算不会得到比更复杂的DNN应用程序更多的好处。在