在超算系统上使用sbatch提交MXNet分布式训练任务
在超算系统上运行MXNet分布式训练任务时，面临着一个IP地址相关的问题。我们在提交MXNet的分布式任务时，需要知道各个GPU节点的IP地址，把这些IP地址放到一个hosts文件中，以供分布式训练使 ...
花费 7 ms
TensorFlow优化器浅析
本文基于tensorflow-v1.15分支，简单分析下TensorFlow中的优化器。 当我们调用optimizer.minimize()时，其内部会调用两个方法compute_gradien ...