Broadcast,Scatter,Gather,Reduce,All-reduce分别是什么？

Broadcast 看名字就很好理解了，其实就是把同一份数据分发广播给所有人，示意图如下： Scatter 不同于Broadcast， scatter可以将不同数据分发给不同的进程。 ...