擅长:python、mysql、java
<p>你考虑过TensorFlow服务吗?<a href="https://www.tensorflow.org/serving/" rel="nofollow noreferrer">https://www.tensorflow.org/serving/</a></p>
<p>一般来说,您希望缓存会话,我认为这是TF Serving使用的策略。这将是迄今为止将TF模型部署到数据中心的最佳体验。在</p>
<p>您也可以转到另一个方向,<a href="https://www.tensorflow.org/api_docs/python/tf/enable_eager_execution" rel="nofollow noreferrer">^{<cd1>}</a>,这样就不需要会话了。变量仍然会被初始化,尽管在创建Python变量对象时会立即初始化。在</p>
<p>但是如果您真的想创建和销毁会话,可以用常量(<a href="https://www.tensorflow.org/extend/tool_developers/#freezing" rel="nofollow noreferrer">"freeze" it</a>)替换图中的变量。在本例中,我还考虑禁用图优化,因为第一个带有一组新的feed和fetch的<code>session.run</code>调用将在默认情况下花费一些时间来优化图(通过<code>GraphOptions</code>proto中的<code>RewriterConfig</code>进行配置)。在</p>
<p>(引自对该问题的评论)</p>