无法在TensorFlow 1.10的IndyLSTMCell中使用relu激活

2024-09-29 23:26:30 发布

您现在位置:Python中文网/ 问答频道 /正文

我在TensorFlow 1.10里试过IndyLSTMCell。它适用于默认激活(tanh),但不适用于nn_雷卢行动. 当我把激活设置为relu时,损失就变成了NAN。英迪格鲁塞尔也有同样的问题。你知道吗

relu激活确实可以与IndRNNCell一起工作,但是,当我将它堆叠到4或6层时,我没有看到模型容量的任何改进。你知道吗

牢房被放在里面tf.contrib.rnn公司.multirncell获取多个层,然后tf.nn.动态. 我也尝试了基于新单元类型的seq2seq模型(Google的NMT模型)。你知道吗

实验是在使用python3.6的新TensorFlow(1.10.0)的GPU版本和CPU版本上进行的。你知道吗

如有任何关于解决这个问题的建议,我们将不胜感激。谢谢。你知道吗


Tags: 模型版本tftensorflownnnancontrib容量

热门问题