如何将tensorflow图拆分为两部分并保存到两个保存的_模型中?

2024-10-04 11:22:37 发布

您现在位置:Python中文网/ 问答频道 /正文

我有一个保存的_模型格式的tensorflow模型,大小超过10GB。计算图由两部分组成,上游部分主要是稀疏嵌入矩阵,其中大部分是大尺寸的,下游部分是dnn。第一部分是内存密集型的,最好在CPU上运行,第二部分包含可以在GPU上优化的操作。这两部分由Gather{}和SparseSegmentMean的运算分为两部分

我的问题是如何将这两个部分划分为两个已保存的模型,以便将它们分别部署在CPU设备和GPU设备上。关于这个话题的最佳实践是什么?是否有任何实现示例


Tags: 内存模型示例gpu尺寸tensorflow部署格式