镜像战略与中心存储战略的区别

Question

我阅读了CentralStorageStrategy和MirroredStrategy的文档，但无法理解它们之间差异的本质。你知道吗

在MirroredStrategy中：

Each variable in the model is mirrored across all the replicas.

在CentralStorageStrategy中：

Variables are not mirrored, instead they are placed on the CPU and operations are replicated across all local GPUs.

资料来源：https://www.tensorflow.org/guide/distributed_training

这在实践中意味着什么？什么是CentralStorageStrategy的用例？如果在这个策略中变量被放置在CPU上，那么训练是如何工作的？你知道吗