LSTM嵌入输出大小和LSTM数量

Question

我不知道为什么我们只有大小为32的输出向量，而有lstm100？你知道吗

我搞不懂的是，如果我们只有32个单词的向量，如果把它放到LSTM中，那么32lstm应该足够大吗？你知道吗

Model.add(Embedding(5000,32)
Model.add(LSTM(100)) 

Answer 1

这些都是模型的超参数，没有实验就没有最佳的设置方法。在您的例子中，将单个单词嵌入到32维的向量中可能就足够了，但是LSTM将处理一系列单词，并且可能需要更大的容量（即维度）来存储有关多个单词的信息。如果不知道目标或数据集，就很难有根据地猜测这些参数是什么。我们经常会看看过去处理类似问题的研究论文，看看他们使用了什么超参数，然后通过实验对它们进行调整。你知道吗