如何使用十位数的多个模型

Question

我有两个模型m1和{}分别训练。现在我想保持m1的固定，并根据m2的输出对{}进行微调。m1的所有变量都在变量范围"m1/"下，m2的变量在"m2/"下。我基本上是这样做的：

# build m1 and m2
with tf.device("/cpu:0"):
    m1.build_graph()
    m2.build_graph()
# indicate the variables of m1 and m2 
allvars = tf.global_variables()
m1_vars = [v for v in allvars if v.name.startswith('m1')]
m2_vars = [v for v in allvars if v.name.startswith('m2')]
# construct the saver 
m1_saver = tf.train.Saver(m1_vars)
m2_saver = tf.train.Saver(m2_vars)
# Load m2 variables 
m2_ckpt_state = tf.train.get_checkpoint_state(FLAGS.m2_log_root)
m2_sess = tf.Session()
m2_saver.restore(m2_sess, m2_ckpt_state.model_checkpoint_path)

# construct a train supervisor for m1
m1_sv = tf.train.Supervisor(is_chief=True, saver=m1_saver)
# construct a session for m1
m1_sess =  m1_sv.prepare_or_wait_for_session()
...

但现在在最后一行代码中出现了一个错误：

^{pr2}$

你能告诉我为什么会出现这个错误吗？我怎样才能修正它？提前谢谢！在

Answer 1

对不同的模型使用单独的图形；在这种情况下，supervisor是用m1_vars定义的，但是它与默认的图形一起工作，其中m2_vars也存在，当试图初始化m2_vars时，它会导致问题。因为m2_vars是用另一个会话初始化的。在

function build_graph() should be defined as
    gi = tf.Graph()
    with gi.as_default():
         ... 
         rest of the code
    return gi
with tf.device("/cpu:0"):
    g1 = m1.build_graph()
    g2 = m2.build_graph()

...
m2_sess = tf.Session(graph=g2)
...
init_op = tf.variables_initializer(m2_vars)
m1_sv = tf.train.Supervisor(graph=g1, is_chief=True, init_op=init_op, saver=m1_saver)