使用nd4j的Sigmoid导数

Question

我做了sigmoid，效果很好，但是sigmoiddevivative给出的结果与nd4j中的sigmoid相同。Transforms.sigmoidDerivative(x)和Transforms.sigmoidDerivative(x, true)之间有什么区别？你知道吗

INDArray x = Nd4j.create(new double[] { 0.1812, 0.1235, 0.8466 });
System.out.println(x);
System.out.println(Transforms.sigmoid(x));
System.out.println(Transforms.sigmoidDerivative(x));
System.out.println(Transforms.sigmoidDerivative(x, true));

提供输出：

[[    0.1812,    0.1235,    0.8466]]
[[    0.5452,    0.5308,    0.6999]]
[[    0.5452,    0.5308,    0.6999]]
[[    0.2480,    0.2490,    0.2101]]

与python的numpy相比：

>>> def sigmoid(x):
...     return 1.0 / (1 + np.exp(-x))
... 
>>> def sigmoid_derivative(x):
...     a = sigmoid(x)
...     return a * (1.0 - a)

>>> x = np.array([    0.1812,    0.1235,    0.8466])
>>> sigmoid(x)
array([0.54517646, 0.53083582, 0.69985343])
>>> sigmoid_derivative(x)
array([0.24795909, 0.24904915, 0.21005861])

Nd4j聚甲醛：

<dependency>
     <groupId>org.nd4j</groupId>
     <artifactId>nd4j-native-platform</artifactId>
     <version>1.0.0-beta3</version>
</dependency>

Answer 1

你是对的，Transforms.sigmoidDerivative(x)和Transforms.sigmoidDerivative(x, true)应该给出相同的结果，这是dl4j中的一个bug。正确的行为使用后一种方法。我已经提交了一个pull request来解决它。你知道吗