需要在同一稠密层中的权重之间进行数学运算，使用Tensorflow

Question

所以我想我有一个独特的小问题（如果以前有人问过，请道歉，因为我没有发现它）

假设我有一个密集层的神经网络，在一个特定层中，神经元a1的一个权重是w11，另一个神经元a2的另一个权重是w21。我没有偏见

在随后的层中，我需要有一个输出a1 X w11、a2 X w22等等，这很容易做到。但是，我还需要另一个输出，它可以得到a1 X a2 X w11 X w22

在我看来，我需要实现的是，在前一层中，有一个称为w11的权重、一个称为w22的权重和另一个称为w11 X w22的权重，但我一直无法找到一种方法以这种方式对权重进行数学运算

有什么办法可以做到这一点吗

Answer 1

尝试直接使用tensorflow低级别api-tf.GradientTape，因此定制在低级别api中是一个简单的方法，但是如果您更喜欢使用keras api，那么您可以使用Lambda layer这使您可以访问网络中任何层的输出

x0 = Dense(.....)(input)
x1 = Lambda(lambda x0_a: tf.math.sqrt(x0_a))(x0)

或者你可以写你的Custom layer

您可能需要访问权重layer.get_weights ()、layer.set_weights ()以及了解custom callbacks的一些函数也可能会有所帮助

---

Custom Weight Constraints