如何在集群上执行Numpy函数？

Question

我一直通过mpi4py体验Python中的MPI。我开发的一些代码并行化的效果非常好。但是我非常依赖Numpy来进行矩阵操作。我有一个关于MPI的Numpy用法的问题。你知道吗

以Numpy中的dedot函数为例。假设我有两个巨大的矩阵A和B，我想计算它们的矩阵积A*B：

numpy.dot(A, B)

我想知道如何将这个函数调用扩展到整个集群。我可以将B（按列）分块成更小的矩阵，并将矩阵积分布在集群节点上，从而重新组合结果。然而，这似乎是一个糟糕的解决办法。有更好的解决办法吗？你知道吗